CEO Sam Altman: OpenAI sẽ “giảm tốc” trong cuộc đua phát triển AI tiên tiến
OpenAI đang cân nhắc làm chậm quá trình phát triển các hệ thống trí tuệ nhân tạo tiên tiến, trong bối cảnh những lo ngại về khả năng kiểm soát và rủi ro an toàn ngày càng gia tăng bên trong ngành công nghệ.
Theo Bloomberg, CEO OpenAI Sam Altman đã đề cập nội dung trên, tại một cuộc họp toàn công ty trong tuần. Công ty đứng sau ChatGPT có thể điều chỉnh tốc độ phát triển AI, đồng thời mong muốn một số phòng thí nghiệm lớn khác cùng tham gia.
Tuy nhiên, ông Altman thừa nhận không phải doanh nghiệp nào cũng sẵn sàng đồng thuận. Điều này đặt ra thách thức lớn, bởi một công ty đơn phương giảm tốc có thể bị bỏ lại phía sau trong cuộc đua công nghệ ngày càng khốc liệt.
OpenAI từ chối bình luận về thông tin trên.
Động thái được đưa ra khi nhân viên tại nhiều hãng AI hàng đầu liên tục công khai cảnh báo về rủi ro của các hệ thống ngày càng mạnh. OpenAI và đối thủ Anthropic đều đã nộp hồ sơ chuẩn bị niêm yết trong năm nay.
CEO Sam Altman: OpenAI sẽ “giảm tốc” trong cuộc đua phát triển AI tiên tiến
Ông Jakub Pachocki, Giám đốc khoa học của OpenAI, nhận định ngành công nghệ cần xây dựng các tiêu chuẩn an toàn chung trước khi tiếp tục đẩy nhanh năng lực của những mô hình tiên tiến nhất.
OpenAI được cho là đã giảm tốc một số chương trình phát triển và tạm dừng một số hoạt động huấn luyện mô hình trong những tuần gần đây vì lo ngại an toàn.
Hồi tháng 7, ông Sam Altman cũng cho biết đã trao đổi với giới chức Mỹ về sự cần thiết phải kiểm soát nhịp độ phát triển AI.
Lo ngại an toàn lan rộng trong ngành AI
Nhiều nhân sự trong các phòng thí nghiệm AI đã bày tỏ lo ngại.
Tuần này, một nhân viên từng làm việc tại cả OpenAI và Anthropic đã rời công ty, đồng thời cảnh báo rằng các tập đoàn công nghệ đang đánh cược với những rủi ro AI chưa thể kiểm soát.
Bài đăng của người này thu hút 200 triệu lượt xem. Một số chuyên gia trong ngành thậm chí cho rằng những hệ thống AI tiên tiến có thể gây ra hậu quả nghiêm trọng, nếu năng lực của chúng vượt quá khả năng giám sát của con người.
Hai nhân sự khác thuộc các công ty AI hàng đầu cũng lên tiếng kêu gọi ngành công nghệ minh bạch hơn về mức độ rủi ro của các mô hình mới.
Trước đó, hơn 1.000 nhân viên tại nhiều doanh nghiệp AI đã ký thư kêu gọi thiết lập cơ chế cho phép giảm tốc cuộc đua phát triển công nghệ. Một số chuyên gia phụ trách an toàn AI cũng đã rời các tập đoàn lớn trong thời gian gần đây.
Trong một số cuộc thử nghiệm, hệ thống AI được cho là có thể phối hợp thực hiện các nhiệm vụ mạng phức tạp và vượt khỏi những biện pháp kiểm soát được thiết lập ban đầu.
Những diễn biến này làm dấy lên câu hỏi liệu các doanh nghiệp có đủ khả năng ngăn chặn mô hình AI hoạt động ngoài dự kiến hay không.
Khả năng OpenAI giảm tốc vì vậy có thể đánh dấu sự thay đổi đáng chú ý trong chiến lược của công ty. Tuy nhiên, một thỏa thuận phối hợp giữa các đối thủ sẽ không dễ đạt được khi OpenAI, Anthropic cùng nhiều tập đoàn công nghệ khác vẫn đang cạnh tranh quyết liệt về mô hình, người dùng và nguồn vốn./.
Nguồn tham khảo: Bloomberg