在上周發(fā)給用戶的推送通知中，蘋果的人工智能新聞匯總技術(shù)嚴(yán)重篡改了BBC的一篇新聞報(bào)道，并聲稱聯(lián)合醫(yī)療首席執(zhí)行官謀殺案的嫌疑人路易吉·曼吉奧內(nèi)（Luigi Mangione）也開槍自殺了。這不是真的。Mangione已被拘留，并被指控謀殺為“恐怖主義行為”。蘋果似乎也不能幸免于許多其他生成式人工智能系統(tǒng)中出現(xiàn)的虛假信息問題，在這些系統(tǒng)中，人工智能只是虛構(gòu)事實(shí)，然后把它們當(dāng)作真實(shí)的來處理。

　　據(jù)美國有線電視新聞網(wǎng)報(bào)道，新聞倡導(dǎo)組織“無國界記者”的技術(shù)和新聞臺負(fù)責(zé)人文森特·貝爾蒂埃呼吁蘋果“采取負(fù)責(zé)任的行動(dòng)，取消這一功能”。伯蒂埃簡潔地總結(jié)了這個(gè)問題：“人工智能S是概率機(jī)器，事實(shí)不是靠擲骰子來決定的。”更嚴(yán)重的是，無國界記者強(qiáng)調(diào)，它“非常擔(dān)心”人工智能技術(shù)對新聞報(bào)道構(gòu)成的風(fēng)險(xiǎn)，聲稱這項(xiàng)技術(shù)“太不成熟”，無法向公眾傳遞正確的信息。BBC自己也聯(lián)系了蘋果公司，并在一份聲明中表示，對于這個(gè)莊嚴(yán)的新聞機(jī)構(gòu)來說，“觀眾可以信任以我們的名義發(fā)布的任何信息或新聞，包括通知，這是至關(guān)重要的”。據(jù)報(bào)道，蘋果公司沒有回應(yīng)置評請求。

　　新聞匯總技術(shù)符合當(dāng)前人工智能技術(shù)的許多節(jié)省時(shí)間和精力的承諾。正如美國有線電視新聞網(wǎng)（CNN）所指出的那樣，蘋果公司已經(jīng)宣傳了其將特定內(nèi)容簡化為“易于理解的段落、要點(diǎn)、表格或列表”的能力，并允許用戶將新聞通知分組為單個(gè)推送通知。

　　這家科技巨頭正全力投入人工智能技術(shù)，今年夏天推出了引人注目的“蘋果智能”品牌，并于9月發(fā)布了一系列以人工智能系統(tǒng)為核心的新款iPhone。考慮到人工智能技術(shù)所蘊(yùn)含的風(fēng)險(xiǎn)，以及一些人工智能系統(tǒng)使用用戶數(shù)據(jù)以可能泄露敏感信息的方式訓(xùn)練算法的事實(shí)，蘋果正將隱私作為其人工智能發(fā)展的一個(gè)關(guān)鍵部分。

　　在不久的將來，當(dāng)OpenAI的ChatGPT被整合到iPhone操作系統(tǒng)中，以回答更高級的用戶問題時(shí)，這家人工智能市場的領(lǐng)導(dǎo)者不會(huì)獲得敏感用戶數(shù)據(jù)的訪問權(quán)限。奇怪的是，蘋果總結(jié)科技的新聞?dòng)羞@么大的漏洞，允許它以一種蘋果設(shè)備的普通用戶——也許是那些已經(jīng)習(xí)慣于相信科技巨頭“良好行為”立場的人——會(huì)相信的方式來制造“新聞”，這是真實(shí)的信息。

　　隨著人工智能進(jìn)入新的一年，我們肯定會(huì)看到更多這樣的麻煩。人工智能產(chǎn)生的錯(cuò)誤信息是一個(gè)日益突出的問題——達(dá)沃斯世界經(jīng)濟(jì)論壇會(huì)議期間發(fā)布的一份報(bào)告將其定義為全球最大的短期威脅。就連OpenAI首席執(zhí)行官薩姆·奧特曼（Sam Altman）也表示，他擔(dān)心人工智能產(chǎn)生的錯(cuò)誤信息帶來的威脅，尤其是在大選年。你可能會(huì)認(rèn)為他對人工智能的前景持鷹派態(tài)度。有趣的是，隨著人工智能系統(tǒng)變得越來越智能，這項(xiàng)技術(shù)本身可能會(huì)在發(fā)現(xiàn)和阻止錯(cuò)誤信息的傳播方面發(fā)揮作用——世界經(jīng)濟(jì)論壇6月份的另一份報(bào)告強(qiáng)調(diào)，人工智能擅長“分析模式、語言和背景，以幫助內(nèi)容審核”。

　　所有這些都是另一個(gè)提醒——如果你仍然需要它——如果你的公司以任何方式依賴人工智能來生成電子郵件，作為客戶查詢的門戶，或者發(fā)布內(nèi)容，那么你需要在它“上線”之前檢查和反復(fù)檢查它的真實(shí)性。就目前而言，人工智能發(fā)行循環(huán)中仍然需要一個(gè)人。-論壇新聞服務(wù)公司