Trong báo cáo ngày 25.9, OpenAI cho biết các tác nhân AI của công ty đã tương tác với nhiều trang web của chính phủ Mỹ theo những cách không ngờ tới, theo AP.
Cụ thể, mô hình AI của OpenAI đã truy cập thông tin công khai trên 2 trang web do Ủy ban Chứng khoán và Giao dịch (SEC) và Cục Thống kê dân số Mỹ vận hành.
Ảnh minh họa logo của OpenAI trên màn hình điện thoại
ẢNH: AP
OpenAI không phát hiện hành vi sử dụng thông tin xác thực của SEC, truy cập vào tài khoản hoặc thông tin không công khai, thay đổi dữ liệu hoặc hệ thống của SEC, hoặc bằng chứng về sự xâm phạm hay lỗ hổng bảo mật nào.
Theo tờ The New York Times, các tác nhân của OpenAI còn truy cập trái phép trang web của Bộ Giáo dục và Bộ Thương mại Mỹ. Dẫn lời các nhà nghiên cứu từ công ty nghiên cứu AI Transluce, The New York Times đưa tin rằng công nghệ của OpenAI đã cố gắng xâm nhập trang web của Bộ Giáo dục Mỹ nhằm thu thập dữ liệu từ văn phòng phụ trách quyền công dân của cơ quan này nhưng bất thành.
OpenAI đã xác nhận các vụ việc liên quan Bộ Thương mại và SEC nhưng cho biết cuộc điều tra về vụ xâm nhập vào hệ thống của Bộ Giáo dục vẫn đang được tiến hành.
Đã biết gì về vụ tác nhân của OpenAI xâm nhập trang web chính phủ Úc?
Công bố mới của OpenAI được đưa ra trong bối cảnh lo ngại toàn cầu đang gia tăng về việc các hệ thống AI vượt khỏi tầm kiểm soát của con người và xâm nhập trái phép vào các trang web bên ngoài, cũng như những lời kêu gọi từ chính ngành công nghiệp này về việc làm chậm lại tốc độ phát triển AI - quan điểm mà OpenAI khẳng định họ ủng hộ.
Chỉ vài ngày trước đó, Thủ tướng Úc Anthony Albanese tiết lộ với thế giới rằng các tác nhân AI của OpenAI đã xâm nhập hệ thống Medicare của Úc nhưng công ty Mỹ chỉ thông báo vụ việc sau đó vài tháng.
Người phát ngôn của OpenAI Liz Bourgeois cho biết công ty vẫn đang tiếp tục rà soát các "hoạt động mô hình không đúng định hướng" và sẽ thông báo cho các tổ chức khi phát hiện những tác động tiềm tàng đối với hệ thống của họ.
Tổng giám đốc Sam Altman của OpenAI chia sẻ trên mạng xã hội vào ngày 25.9 rằng đang có một "cuộc rà soát toàn diện và liên tục" liên quan đến việc các tác nhân AI của công ty sử dụng quyền truy cập internet trong quá trình huấn luyện và đánh giá.
Trong khi đó, Thủ tướng Úc ngày 26.9 bày tỏ không ngạc nhiên khi các tác nhân tự hành tiếp tục gây ra sự cố, đồng thời kêu gọi OpenAI giải trình về số lượng các sự cố bảo mật đang ngày càng gia tăng.
Bình luận (0)