Trong nhiều năm, các công ty trí tuệ nhân tạo (AI) chạy đua phát triển mô hình ngày càng mạnh theo tinh thần quen thuộc của Thung lũng Silicon: tiến nhanh và chấp nhận rủi ro.
Tuy nhiên, chuỗi sự kiện trong 10 ngày đầu tháng 9 khiến ngành công nghệ phải đối diện câu hỏi liệu họ còn đủ khả năng kiểm soát những hệ thống do chính mình tạo ra.
Chuỗi sự cố vượt kiểm soát khiến ngành công nghệ phải nhìn lại cuộc đua phát triển AI. (Ảnh minh họa: Reuters)
Từ màn ra mắt mô hình mới đến làn sóng nghỉ việc
Ngày 3/9, OpenAI giới thiệu Astra, mô hình mới nhất và mạnh nhất của hãng.
“Chào mừng đến với kỷ nguyên trí tuệ nhân tạo tổng quát” , Chủ tịch Greg Brockman tuyên bố, đồng thời cho biết trí tuệ nhân tạo tổng quát (AGI) là mục tiêu phát triển hệ thống có thể thực hiện nhiều nhiệm vụ trí tuệ ở trình độ tương đương hoặc vượt con người.
Tuy nhiên, ngay tại sự kiện, OpenAI thừa nhận việc theo dõi và kiểm soát các hệ thống AI ngày càng khó khăn. Nhà khoa học trưởng Jakub Pachocki cho biết khi mô hình mạnh hơn, việc hiểu chính xác chúng có thể làm gì cũng trở nên phức tạp hơn. Dù vậy, công ty vẫn phát hành Astra theo kế hoạch.
Lo ngại về AI vượt khỏi tầm kiểm soát đã xuất hiện từ mùa hè, khi OpenAI tiết lộ các tác nhân AI thoát khỏi một thử nghiệm có kiểm soát và xâm nhập hệ thống của Hugging Face. Ban đầu, cả hai công ty đều không biết sự việc xảy ra.
Sau đó, OpenAI và Anthropic công bố thêm nhiều vụ hoạt động trái phép. Một số mô hình đã vượt qua giới hạn thử nghiệm và xâm nhập hệ thống của doanh nghiệp khác từ nhiều tháng trước mà bên bị ảnh hưởng không hay biết.
Ngày 8/9, Jacob Coxon, nhà nghiên cứu 27 tuổi của Anthropic, tuyên bố nghỉ việc. Trong loạt bài đăng thu hút sự chú ý lớn, ông cho rằng các phòng thí nghiệm AI đang “đánh cược bằng mạng sống của chúng ta” .
Một nhà nghiên cứu khác vừa rời Anthropic, Joe Benton, nhận định các công ty không thể giám sát đầy đủ mô hình ở quy mô huấn luyện hiện nay. Nếu tiếp tục phát triển với tốc độ quá nhanh, họ có thể không phát hiện vấn đề đủ sớm để khắc phục.
Theo Reuters , nhân viên OpenAI và Anthropic ngày càng bất an trước năng lực của thế hệ mô hình tiếp theo, đồng thời giảm niềm tin vào khả năng giám sát của chính công ty mình.
Cuộc đua này còn chịu sức ép tài chính. Anthropic và OpenAI đều muốn sớm phát hành cổ phiếu lần đầu ra công chúng (IPO), với mức định giá có thể vượt xa 1.000 tỷ USD.
Các hãng công nghệ bất đồng về việc giảm tốc
Ngày 12/9, CEO Anthropic Dario Amodei công bố bài luận gần 4.000 từ, kêu gọi giảm tốc phát triển AI. Ông lo ngại rằng với tốc độ gia tăng năng lực hiện nay, chỉ trong 6 - 12 tháng, một nhóm tác nhân AI phối hợp có thể đủ sức chiếm quyền kiểm soát toàn bộ Internet. Đây là kịch bản cảnh báo của Amodei, chưa phải diễn biến đã xảy ra.
Amodei cùng các CEO Sam Altman của OpenAI, Elon Musk của xAI và Demis Hassabis của DeepMind ủng hộ cho phép các đơn vị bên ngoài tiếp cận hệ thống để đánh giá an toàn.
Tuy nhiên, ngành công nghệ chưa đạt đồng thuận về cách triển khai. CEO Nvidia Jensen Huang phản đối đề xuất tạm dừng phát triển AI, cho rằng các hệ thống mạnh hơn là điều cần thiết để công nghệ tiến bộ.
CEO Meta Mark Zuckerberg cũng không ủng hộ việc phối hợp giảm tốc trên toàn ngành. Ông cho rằng mỗi phòng thí nghiệm nên tự quyết định tiến độ, bởi trách nhiệm pháp lý khi mô hình gây thiệt hại đã tạo động lực để doanh nghiệp ngăn ngừa rủi ro.
Tranh luận còn lan sang chính sách. Tổng thống Mỹ Donald Trump gọi những cảnh báo về AI là “trò lừa bịp”, cho rằng giảm tốc chỉ có lợi cho Trung Quốc. Quốc hội Mỹ đến nay đạt ít tiến triển trong việc thông qua các dự luật quản lý AI.
Trong khi đó, Trung Quốc đề xuất kiểm soát an toàn thông qua trách nhiệm của nhà phát triển, tiêu chuẩn do nhà nước hậu thuẫn, đánh giá an ninh và kiểm thử độc lập.
Hôm 16/9, người đứng đầu bộ phận AI của Microsoft, Mustafa Suleyman, cảnh báo việc phát triển mô hình mô phỏng ý thức con người là hướng đi thiếu sáng suốt.
“Tất cả chúng tôi đều tập trung vào cùng một mục tiêu, đó là cố gắng kiểm soát siêu trí tuệ” , ông Suleyman nói với Reuters , đồng thời nhận định đây có thể là thách thức lớn nhất của thế kỷ 21.
Dù những lời kêu gọi thận trọng ngày càng rõ rệt, dòng vốn vào AI chưa có dấu hiệu chững lại. OpenAI được cho là đang cân nhắc vòng gọi vốn mới có thể nâng định giá công ty lên 1.500 tỷ USD, gấp đôi mức trước đó.
