關(guān)鍵字：
系統(tǒng)
人工智能
導(dǎo) 讀：
美國(guó)開(kāi)放人工智能研究中心（OpenAI）和谷歌旗下“深層思維”公司的13名現(xiàn)職員及前員工4日發(fā)表聯(lián)名公開(kāi)信，對(duì)人工智能行業(yè)在缺乏對(duì)“吹哨人”法律保護(hù)的背景下快速發(fā)展表達(dá)擔(dān)憂。 據(jù)多家外媒援引信件報(bào)道，這些員工認(rèn)為，人工智能企業(yè)受利益驅(qū)使缺乏有效監(jiān)管，現(xiàn)有企業(yè)治理架構(gòu)不足以改變這一點(diǎn)。而不受監(jiān)管的人工智能會(huì)觸...,系統(tǒng),人工智能,智能,智能,人工智能
美國(guó)開(kāi)放人工智能研究中心（OpenAI）和谷歌旗下“深層思維”公司的13名現(xiàn)職員及前員工4日發(fā)表聯(lián)名公開(kāi)信，對(duì)人工智能行業(yè)在缺乏對(duì)“吹哨人”法律保護(hù)的背景下快速發(fā)展表達(dá)擔(dān)憂。
據(jù)多家外媒援引信件報(bào)道，這些員工認(rèn)為，人工智能企業(yè)受利益驅(qū)使缺乏有效監(jiān)管，現(xiàn)有企業(yè)治理架構(gòu)不足以改變這一點(diǎn)。而不受監(jiān)管的人工智能會(huì)觸發(fā)虛假信息傳播、人工智能系統(tǒng)喪失獨(dú)立性和社會(huì)階層不平等深化等多重風(fēng)險(xiǎn)。
信件指出，外部人士對(duì)上述風(fēng)險(xiǎn)中的大部分不知情，因?yàn)槿斯ぶ悄芷髽I(yè)“目前只承擔(dān)與政府分享部分相關(guān)信息的微弱義務(wù)，也沒(méi)有義務(wù)與公民社會(huì)分享信息”，“我們不認(rèn)為能全然依靠企業(yè)自愿分享信息”。
信件還指出，一般的法律保護(hù)對(duì)人工智能行業(yè)“吹哨人”而言“不夠”，因?yàn)椴簧僖藫?dān)憂的風(fēng)險(xiǎn)在法律監(jiān)管方面仍屬空白。另外，人工智能企業(yè)員工受制于保密協(xié)議，通常不得對(duì)外實(shí)質(zhì)性披露企業(yè)所掌握的人工智能實(shí)力。
聯(lián)名信簽署人中，2人與“深層思維”有關(guān)，4名OpenAI現(xiàn)員工要求匿名。組織者包括OpenAI前工程師丹尼爾·齊格勒和前員工丹尼爾·科科塔耶羅。
齊格勒4日告訴美聯(lián)社記者，他2018年至2021年在OpenAI工作時(shí)參與聊天機(jī)器人ChatGPT部分技術(shù)研發(fā)，當(dāng)時(shí)不擔(dān)心在企業(yè)內(nèi)部講出他發(fā)現(xiàn)的問(wèn)題，但他現(xiàn)在擔(dān)心，行業(yè)內(nèi)企業(yè)競(jìng)相將相關(guān)技術(shù)迅速商業(yè)化會(huì)讓它們承受忽視風(fēng)險(xiǎn)的壓力。“相較于責(zé)備OpenAI，我更感興趣的是借此機(jī)會(huì)讓全部人工智能前沿企業(yè)切實(shí)投入，強(qiáng)化監(jiān)管和透明度，增進(jìn)公眾信任。”
科科塔耶羅則發(fā)表書(shū)面聲明說(shuō)，他今年早些時(shí)候離職，是對(duì)OpenAI“能采取負(fù)責(zé)任行為喪失希望”，特別是在企業(yè)嘗試打造通用人工智能系統(tǒng)之后。對(duì)于這類功能強(qiáng)大、卻又鮮為人熟知的技術(shù)，企業(yè)“快速出手、打破常規(guī)”，行事方式與所需“恰恰相反”。
OpenAI同一天回應(yīng)聯(lián)名信時(shí)強(qiáng)調(diào)，已設(shè)立匿名舉報(bào)熱線和安全委員會(huì)保護(hù)“吹哨人”，相信能以科學(xué)方法應(yīng)對(duì)風(fēng)險(xiǎn)。