Sunday, May 19, 2024
HomeGiáo DụcNhà sản xuất ChatGPT OpenAI kêu gọi quy định về AI, cảnh...

Nhà sản xuất ChatGPT OpenAI kêu gọi quy định về AI, cảnh báo về ‘rủi ro hiện hữu’

Ellen Francis

Các nhà lãnh đạo của OpenAI, người tạo ra chatbot ChatGPT lan truyền, đang kêu gọi quy định các hệ thống “siêu trí tuệ” và trí tuệ nhân tạo, đề xuất một cơ quan tương đương với cơ quan giám sát hạt nhân của thế giới sẽ giúp giảm “rủi ro tồn tại” do công nghệ này gây ra.

Trong một tuyên bố được công bố trên trang web của công ty trong tuần này, những người đồng sáng lập Greg Brockman và Ilya Sutskever, cũng như Giám đốc điều hành Sam Altman, đã lập luận rằng một cơ quan quản lý quốc tế cuối cùng sẽ trở nên cần thiết để “kiểm tra các hệ thống, yêu cầu kiểm toán, kiểm tra việc tuân thủ các tiêu chuẩn an toàn. , (và) đặt ra các hạn chế về mức độ triển khai và mức độ bảo mật.”

Họ đã so sánh năng lượng hạt nhân như một ví dụ khác về công nghệ có “khả năng rủi ro tồn tại”, làm tăng nhu cầu về một cơ quan có bản chất tương tự như Cơ quan Năng lượng Nguyên tử Quốc tế (IAEA), cơ quan giám sát hạt nhân của thế giới.

Trong thập kỷ tới, “có thể hình dung rằng… các hệ thống AI sẽ vượt qua trình độ kỹ năng chuyên gia trong hầu hết các lĩnh vực và thực hiện nhiều hoạt động hiệu quả như một trong những tập đoàn lớn nhất hiện nay,” nhóm OpenAI viết. “Xét về mặt tích cực và tiêu cực, siêu trí tuệ sẽ mạnh hơn các công nghệ khác mà nhân loại từng phải đối mặt trong quá khứ. Chúng ta có thể có một tương lai thịnh vượng hơn nhiều; nhưng chúng ta phải quản lý rủi ro để đạt được điều đó.”

Tuyên bố này lặp lại ý kiến ​​của Altman trước Quốc hội vào tuần trước, nơi Giám đốc điều hành của công ty có trụ sở tại Hoa Kỳ cũng làm chứng về sự cần thiết của một cơ quan quản lý riêng.

Giám đốc điều hành đằng sau ChatGPT cảnh báo Quốc hội AI có thể gây ra ‘tổn hại cho thế giới’

Các nhà phê bình đã cảnh báo chống lại những lời kêu gọi đáng tin cậy về quy định từ các nhà lãnh đạo trong ngành công nghệ, những người có thể thu lợi từ việc tiếp tục phát triển mà không bị hạn chế. Một số người cho rằng các quyết định kinh doanh của OpenAI trái ngược với những cảnh báo an toàn này – vì việc triển khai nhanh chóng của họ đã tạo ra một cuộc chạy đua vũ trang về AI, gây áp lực cho các công ty như công ty mẹ của Google là Alphabet phải phát hành sản phẩm trong khi các nhà hoạch định chính sách vẫn đang vật lộn với rủi ro.

Rất ít nhà lập pháp của Washington có hiểu biết sâu sắc về công nghệ mới nổi hoặc AI và các công ty AI đã vận động họ rộng rãi, The Washington Post trước đây đã đưa tin, vì những người ủng hộ và chỉ trích hy vọng sẽ tác động đến các cuộc thảo luận về chính sách công nghệ.

Một số người cũng đã cảnh báo về nguy cơ cản trở khả năng cạnh tranh về công nghệ của Hoa Kỳ với các đối thủ – đặc biệt là Trung Quốc.

Các nhà lãnh đạo OpenAI cảnh báo trong lưu ý của họ về việc tạm dừng phát triển, đồng thời nói thêm rằng “việc ngăn chặn việc tạo ra siêu trí tuệ sẽ rất rủi ro và khó khăn. Bởi vì mặt tích cực là rất lớn, chi phí để xây dựng nó giảm đi mỗi năm, số lượng người tham gia xây dựng nó đang tăng lên nhanh chóng.”

Cuộc tranh luận về việc AI sẽ tiêu diệt chúng ta đang chia rẽ Thung lũng Silicon

Trong lời khai đầu tiên trước quốc hội vào tuần trước, Altman đã đưa ra những cảnh báo về cách AI có thể “gây ra tác hại đáng kể cho thế giới”, đồng thời khẳng định rằng công ty của ông sẽ tiếp tục tung ra công nghệ này.

Thông điệp sẵn sàng làm việc với các nhà lập pháp của Altman đã nhận được sự đón nhận tương đối nồng nhiệt tại Quốc hội, khi các quốc gia bao gồm cả Hoa Kỳ thừa nhận rằng họ cần phải đấu tranh để hỗ trợ đổi mới trong khi xử lý một công nghệ đang gây ra những lo ngại về quyền riêng tư, an toàn, cắt giảm việc làm và thông tin sai lệch.

Một nhân chứng tại phiên điều trần, giáo sư danh dự Gary Marcus của Đại học New York, đã nhấn mạnh số tiền “đáng kinh ngạc” đang bị đe dọa và mô tả OpenAI là “người biết ơn” đối với nhà đầu tư Microsoft. Anh ấy chỉ trích những gì anh ấy mô tả là sự khác biệt của công ty với sứ mệnh thúc đẩy AI để “mang lại lợi ích cho toàn thể nhân loại” mà không bị ràng buộc bởi áp lực tài chính.

Washington thề sẽ giải quyết AI, khi những người khổng lồ công nghệ và các nhà phê bình hạ bệ

Việc phổ biến ChatGPT và các công cụ AI tạo ra văn bản, hình ảnh hoặc âm thanh đã khiến người dùng choáng váng và cũng làm tăng thêm tính cấp bách cho cuộc tranh luận về quy định.

Tại hội nghị thượng đỉnh G-7 vào thứ Bảy, các nhà lãnh đạo của các nền kinh tế lớn nhất thế giới đã nói rõ rằng các tiêu chuẩn quốc tế về tiến bộ AI là ưu tiên hàng đầu, nhưng vẫn chưa đưa ra kết luận đáng kể về cách giải quyết các rủi ro.

Cho đến nay, Hoa Kỳ đã tiến chậm hơn so với các quốc gia khác, đặc biệt là ở châu Âu, mặc dù chính quyền Biden cho biết họ đã ưu tiên hàng đầu cho AI. Các nhà hoạch định chính sách của Washington đã không thông qua luật công nghệ toàn diện trong nhiều năm, đặt ra câu hỏi về việc họ có thể phát triển các quy định cho ngành AI nhanh chóng và hiệu quả như thế nào.

Khi AI thay đổi công việc, Ý đang cố gắng giúp người lao động đào tạo lại

Trước mắt, các nhà sản xuất ChatGPT đã kêu gọi “sự phối hợp ở một mức độ nào đó” giữa các công ty đang nghiên cứu AI “để đảm bảo rằng sự phát triển của siêu trí tuệ” cho phép “tích hợp các hệ thống này với xã hội một cách an toàn và suôn sẻ”. Các công ty có thể, để kiểm traHọ nói: “Cùng nhau đồng ý… rằng tốc độ tăng trưởng về khả năng AI ở biên giới được giới hạn ở một tỷ lệ nhất định mỗi năm,” họ nói.

“Chúng tôi tin rằng mọi người trên khắp thế giới nên quyết định một cách dân chủ về các giới hạn và giá trị mặc định cho các hệ thống AI,” họ nói thêm – đồng thời thừa nhận rằng “chúng tôi chưa biết cách thiết kế một cơ chế như vậy.”

Cat Zakrzewski, Cristiano Lima và Will Oremus đã đóng góp cho báo cáo này.

https://www.washingtonpost.com/technology/2023/05/24/chatgpt-openai-artificial-intelligence-regulation/?utm_campaign=wp_post_most&utm_medium=email&utm_source=newsletter&wpisrc=nl_most

RELATED ARTICLES

LEAVE A REPLY

Please enter your comment!
Please enter your name here

Most Popular