CEO OpenAI Sam Altman xác nhận tạm dừng phát triển ChatGPT do lo ngại các nguy cơ có thể xảy ra cho xã hội và nhân loại

Sam Altman, Giám đốc điều hành và đồng sáng lập của OpenAI, xác nhận công ty hiện không phát triển GPT-5, phiên bản tiếp theo của mô hình ngôn ngữ GPT-4.

Tại một sự kiện ở MIT, Altman đã được hỏi về một bức thư ngỏ gần đây yêu cầu các phòng thí nghiệm như OpenAI tạm dừng phát triển các hệ thống trí tuệ nhân tạo “mạnh hơn GPT-4”. Bức thư, có chữ ký của Elon Musk và Steve Wozniak, nêu lo ngại về sự an toàn của các hệ thống AI.

CEO OpenAI cho biết bức thư “thiếu hầu hết chi tiết kỹ thuật về việc cần tạm dừng ở đâu” và lưu ý rằng một phiên bản thư trước đó tuyên bố rằng OpenAI đang phát triển GPT-5.

“Chúng tôi không và sẽ không phát triển GPT-5 trong một thời gian nữa. Theo nghĩa đó, yêu cầu tạm ngừng khá ngớ ngẩn”, Altman nói, lưu ý thêm rằng không phát triển GPT-5 không có nghĩa là không phát triển các khả năng hiện có của GPT-4 cũng như các biện pháp an toàn liên quan, sếp OpenAI lưu ý.

“Chúng tôi đang làm những công việc khác trên GPT-4, với nhiều vấn đề an toàn cần giải quyết, và hoàn toàn không xuất hiện trong bức thư”, cha đẻ ChatGPT cho biết.

Nhận xét của Altman về bức thư cho thấy một khó khăn trong cuộc tranh luận về sự an toàn của AI: khó đo lường và theo dõi tiến độ phát triển của công nghệ. Có thể OpenAI hiện không đào tạo GPT-5, nhưng con số tên phiên bản không thực sự có ý nghĩa.

Công ty vẫn đang mở rộng tiềm năng của GPT-4, ví dụ bằng cách kết nối mô hình với Internet. Ngoài ra còn có các nghiên cứu tối ưu hóa GPT-4, giống như GPT-3.5 là phiên bản tối ưu hóa GPT-3 bằng kỹ thuật Học tăng cường với phản hồi của con người.

“Tôi nghĩ rằng việc phát triển một cách thận trọng là rất quan trọng, tôi cũng đồng ý rằng khi các mô hình ngày càng nhiều khả năng thì mức an toàn phải tăng lên. Nhưng bức thư không phải cách giải quyết tối ưu”, Altman đánh giá.

Một số chuyên gia trong ngành đánh giá có những rủi ro xung quanh AI, nhưng cũng không đồng tình với bức thư có chữ ký của Elon Musk.

Thay vì đặt câu hỏi liệu AI có trở nên thông minh hơn và thay thế con người, cần quan tâm hơn đến cách các hệ thống AI có thể lan truyền tin giả cũng như lạm dụng sức lao động trong quá trình đào tạo, Sandra Wachter, chuyên gia về quản lý công nghệ tại Đại học Oxford, người không ký vào bức thư, cho biết.

Tỷ phú Elon Musk thành lập công ty mới về AI

The Wall Street Journal cho biết, theo hồ sơ kinh doanh tại bang Nevada, tỷ phú Elon Musk đã thành lập công ty mang tên X.AI ngày 9/3. Nhiều dự đoán cho rằng Elon Musk đang muốn xây dựng đối thủ cạnh tranh với OpenAI, công ty phát triển ChatGPT.

Theo tài liệu, Elon Musk là Giám đốc X.AI, vai trò thư ký được giao cho Jared Birchall, Giám đốc quỹ đầu tư gia đình Musk.

Các nguồn tin thân cận với công ty cho biết những dự án trí tuệ nhân tạo của X.AI sẽ được phục vụ cho các công ty do Elon Musk làm chủ như Twitter, Tesla, Neuralink hay SpaceX… X.AI được xem là bước khởi động cho kế hoạch biến Twitter thành một siêu ứng dụng của Elon Musk, trong đó Twitter sẽ không chỉ là một mạng xã hội đơn thuần như hiện nay mà còn được tích hợp nhiều tính năng khác như thương mại điện tử, thanh toán trực tuyến, đặt xe taxi…Elon Musk cũng đã mời Igor Babushkin, chuyên gia hàng đầu về trí tuệ nhân tạo và từng làm việc tại DeepMind (dự án trí tuệ nhân tạo của Google), để đứng đầu nhóm phát triển của X.AI.

Cuối tháng 3/2023, tỷ phú gốc 51 tuổi vừa ký một bức thư kêu gọi công ty, tổ chức toàn cầu tạm ngừng cuộc đua trong công nghệ trí tuệ nhân tạo (AI) trong sáu tháng để cùng nhau xây dựng một bộ quy tắc chung về AI.

Tuy nhiên, theo Business Insider, ông cũng đã mua 10.000 card đồ họa (GPU) của Nvidia để đào tạo AI và dự án này đang ở giai đoạn đầu.

Các tập đoàn công nghệ lớn như Google, Meta và Microsoft đã dành nhiều năm nghiên cứu hệ thống AI để phục vụ dịch thuật, tìm kiếm và quảng cáo hướng đối tượng. Sức hút của AI tăng mạnh tư cuối năm 2022 sau khi OpenAI tung ra ChatGPT, chatbot có thể tạo ra những văn bản dựa trên yêu cầu của người dùng bằng ngôn ngữ tự nhiên.

Elon Musk cũng là đồng sáng lập OpenAI từ 2015 cùng một số nhân vật nổi tiếng như Sam Altman, Reid Hoffman, Peter Theil. Ban đầu, đây là tổ chức hoạt động phi lợi nhuận, tập trung phát triển AI làm đối trọng với Google vì cho rằng gã khổng lồ công nghệ không quan tâm đúng mức đến sự an toàn của AI.

Đến tháng 2/2018, Elon Musk là chủ tịch công ty. Năm 2020, ông tỏ ra không hài lòng khi OpenAI cấp giấy phép cho Microsoft khai thác độc quyền GPT-3. Trong khi đó, Microsoft đã đầu tư hàng tỷ USD vào startup này, đồng thời tích hợp nhiều công nghệ của OpenAI vào dịch vụ tìm kiếm Bing.

Trung Quốc ban hành quy tắc AI đầu tiên

Giới chức Trung Quốc ngày 11/4 đã công bố dự thảo quy định quản lý sản phẩm trí tuệ nhân tạo (AI) như ChatGPT, khi các công ty trong nước đẩy mạnh phát triển ứng dụng tương tự.

Theo CNBC, quy định này được Cơ quan quản lý không gian mạng Trung Quốc (CAC) đưa ra, và là quy tắc đầu tiên của nước này đối với lĩnh vực AI tổng quát.

Bắc Kinh đang muốn nhắm đến công nghệ AI vốn đang phát triển nhanh chóng, khi các công ty công nghệ nước này cũng bắt đầu tung ra những sản phẩm kiểu ChatGPT.

Cái gọi là AI tổng quát liên quan đến tổng hợp thuật toán dựa trên nguồn dữ liệu lớn để tạo ra văn bản và hình ảnh, tương tự ứng dụng ChatGPT do công ty OpenAI của Mỹ đang phát triển.

Trong những tuần qua, các gã khổng lồ công nghệ của Trung Quốc dần tung ra những sản phẩm cạnh tranh. Hôm 11/4, Alibaba công bố Tongyi Qianwen, một sản phẩm AI tổng quát, nói rằng sẽ tích hợp công nghệ này trên nhiều dịch vụ khác nhau. Tháng trước, Baidu cũng đã thử nghiệm ứng dụng AI Ernie Bot.

Dự thảo quy định do CAC đưa ra bao gồm các quy tắc cơ bản mà cơ quan cung cấp dịch vụ AI tổng quát phải tuân theo, kể cả những nội dung nào AI được phép tạo ra.

Cơ quan của Trung Quốc cho biết các công ty nên đảm bảo dữ liệu để đào tạo AI sẽ không tạo ra những nội dung phân biệt đối xử hay thông tin sai lệch.

Những quy định trên dự kiến có hiệu lực vào cuối năm nay, và hoạt động song song với các quy định về bảo vệ dữ liệu và phát triển thuật toán hiện hành tại đất nước tỷ dân.

Trung Quốc không phải quốc gia duy nhất quan ngại về sự phát triển của AI tổng quát. Trước đó, Italy đã cấm ChatGPT do lo ngại an ninh, Reuters cho hay.

Nhiều chuyên gia công nghệ, bao gồm tỷ phú Elon Musk, cũng đã kêu gọi hoãn phát triển trí tuệ nhân tạo, nói rằng điều này “gây rủi ro tới xã hội”.

Theo Wall Street Journal/Zingnews