華盛頓(美聯社)——亞馬遜、谷歌、meta、微軟和其他引領人工智能技術發展的公司已經同意遵守由拜登總統政府促成的一套人工智能保障措施。
白宮周五表示,已經獲得了七家美國公司的自愿承諾,旨在確保他們的人工智能產品在發布之前是安全的。其中一些承諾呼吁對商業人工智能系統的運作進行第三方監督,盡管它們沒有詳細說明由誰來審核技術或追究公司的責任。
對生成式人工智能工具的商業投資激增,這些工具可以寫出令人信服的類似人類的文字,并大量生成新的圖像和其他媒體,這讓公眾著迷,也讓他們擔心它們欺騙人們和傳播虛假信息的能力,以及其他危險。
白宮在一份聲明中表示,這四家科技巨頭,以及chatgpt制造商OpenAI和初創公司Anthropic和Inflection,已經承諾進行“部分由獨立專家進行”的安全測試,以防范生物安全和網絡安全等重大風險。
這些公司還承諾采用報告系統漏洞的方法,并使用數字水印來幫助區分真實圖像和人工智能生成的圖像(稱為深度偽造)。
白宮表示,他們還將公開報告其技術中的缺陷和風險,包括對公平和偏見的影響。
自愿承諾是在長期推動國會通過監管該技術的法律之前解決風險的一種直接方式。
人工智能監管的一些倡導者表示,拜登的舉動是一個開始,但需要做更多的工作來讓這些公司及其產品承擔責任。
非營利組織Common Sense Media的創始人兼首席執行官詹姆斯?斯蒂爾在一份聲明中表示:“歷史表明,許多科技公司實際上并沒有履行自愿承諾,采取負責任的行動,支持強有力的監管。”
參議院多數黨領袖查克·舒默,紐約州民主黨人。他表示,他將引入立法來監管人工智能。他與政府官員舉行了多次簡報會,就一個引起兩黨關注的問題向參議員們進行教育。
一些科技高管呼吁監管,其中一些人在5月份前往白宮與拜登、副總統卡瑪拉·哈里斯(Kamala Harris)和其他官員交談。
但一些專家和新貴競爭對手擔心,這種監管可能有利于以OpenAI、谷歌(Google)和微軟(Microsoft)為首的財力雄厚的先驅者,因為讓它們的人工智能系統(被稱為大型語言模型)遵守監管規定的高昂成本,讓規模較小的競爭對手被擠出了市場。
包括微軟在內的軟件貿易組織BSA周五表示,它歡迎拜登政府為高風險人工智能系統制定規則的努力。
該組織在一份聲明中表示:“企業軟件公司期待與政府和國會合作,制定立法,解決與人工智能相關的風險,并促進其利益。”
一些國家一直在尋找監管人工智能的方法,包括歐盟立法者,他們一直在為27個成員國談判全面的人工智能規則。
聯合國秘書長安東尼奧·古特雷斯最近表示,聯合國是采用全球標準的“理想場所”,并任命了一個委員會,該委員會將在今年年底前報告全球人工智能治理的選擇。
古特雷斯還表示,他歡迎一些國家呼吁建立一個新的聯合國機構,以支持全球治理人工智能的努力,該機構的靈感來自國際原子能機構(iaea)或政府間氣候變化專門委員會(ipcc)等模式。
白宮星期五說,它已經就自愿承諾與一些國家進行了磋商。