Các cơ quan quản lý của Vương quốc Anh bày tỏ lo ngại về vai trò của AI trong dịch vụ tài chính

Khi ngày càng nhiều tổ chức tài chính triển khai trí tuệ nhân tạo cho các chức năng chính như đánh giá tín dụng, một nhóm các nhà lập pháp Vương quốc Anh đã bày tỏ lo ngại rằng ngành công nghiệp này có thể chưa sẵn sàng để đối phó với một sự cố lớn liên quan đến AI.

Các nhà lập pháp gần đây đã khuyên Cơ quan Quản lý Tài chính (FCA) và Ngân hàng Trung ương Anh (BoE) thực hiện các bài kiểm tra căng thẳng tập trung vào AI nhằm giúp các công ty dịch vụ tài chính điều hướng các vấn đề tiềm ẩn bắt nguồn từ công nghệ này.

Ủy ban cũng kêu gọi Vương quốc Anh có thái độ chủ động hơn trong việc giải quyết các rủi ro này. Ví dụ, họ đề xuất FCA công bố hướng dẫn làm rõ cách các quy tắc bảo vệ người tiêu dùng áp dụng cho AI, cũng như mức độ các quản lý cấp cao trong dịch vụ tài chính cần hiểu các thành phần AI tích hợp trong hệ thống của họ.

Những Lỗi Lầm và Rủi Ro

Theo báo cáo, các biện pháp này ngày càng cần thiết do những rủi ro lớn do AI gây ra. Những lỗi thường xuất hiện trong công nghệ mới nổi này có thể dẫn đến các quyết định tín dụng không chính xác, tăng nguy cơ gian lận và lan truyền thông tin sai lệch.

Báo cáo còn nhấn mạnh các rủi ro tập trung liên quan đến các mô hình AI lớn, phần lớn do các tập đoàn công nghệ hàng đầu của Mỹ thúc đẩy. Các hệ thống tập trung này có thể làm lệch quyết định của người tiêu dùng và thúc đẩy hành vi theo đám đông trên thị trường tài chính.

Hơn nữa, các nhà lập pháp Vương quốc Anh cho biết sự xuất hiện của AI có khả năng hành động tự chủ — và sự vội vàng trong việc chấp nhận thương mại tự chủ — đã tạo ra một điểm biến đổi tiềm năng cho các tổ chức tài chính. Điều này cũng được Experian nhấn mạnh, khi cho biết các thương nhân và tổ chức tài chính hiện tại thiếu các công cụ để phân biệt giữa các đại lý AI hợp pháp và các bot độc hại.

Tình Hình Hiện Tại

Dù có những lo ngại này, lợi ích linh hoạt của AI đảm bảo rằng nó sẽ vẫn là ưu tiên hàng đầu của các tổ chức tài chính.

Dữ liệu từ FIS cho thấy hơn ba phần tư các lãnh đạo doanh nghiệp và công nghệ tin rằng AI đã tăng cường khả năng phát hiện gian lận và quản lý rủi ro của tổ chức họ. Khoảng một nửa số người trả lời cũng cho biết tổ chức của họ dự định tăng cường đầu tư vào AI trong hai năm tới.

Cùng lúc đó, một quan chức của Ngân hàng Trung ương Anh gần đây nhấn mạnh rằng ngành tài chính của Vương quốc Anh chưa khai thác đầy đủ dữ liệu phân tích để phát hiện gian lận. Điều này làm nổi bật thách thức trung tâm mà nhiều tổ chức tài chính đang đối mặt: các nhà lãnh đạo phải xây dựng các chiến lược tối đa hóa lợi ích của AI trong khi giảm thiểu các rủi ro vốn có của nó.