作者：美捷登學(xué)術(shù)部Lestat
科學(xué)家們從未停止警醒人類(lèi)——人工智能(AI)可能會(huì)通過(guò)掌握從商業(yè)到戰(zhàn)爭(zhēng)等各個(gè)領(lǐng)域?qū)θ祟?lèi)產(chǎn)生威脅。近期，麻省理工學(xué)院的生物安全專家Kevin Esvelt提出了另一個(gè)讓人擔(dān)憂的問(wèn)題：人工智能可以幫助沒(méi)有科學(xué)背景但心懷不軌的人訂購(gòu)能夠引發(fā)大流行的病毒。
Esvelt讓學(xué)生在ChatGPT或其他所謂的大型語(yǔ)言模型的幫助下創(chuàng)建一個(gè)危險(xiǎn)病毒。這些系統(tǒng)可以根據(jù)大量的互聯(lián)網(wǎng)數(shù)據(jù)訓(xùn)練集，對(duì)各類(lèi)問(wèn)題做出類(lèi)似人類(lèi)的回答。僅僅一個(gè)小時(shí)后，全班同學(xué)就列出了候選病毒的清單，以及能夠合成病毒基因密碼并組裝病毒片段的公司。
Esvelt表示，他在6月6日發(fā)布的arXiv預(yù)印本中描述了這次演習(xí)，強(qiáng)調(diào)人工智能系統(tǒng)可能很快就會(huì)協(xié)助非科學(xué)家設(shè)計(jì)出像核武器一樣具有威脅性的生物武器�！翱焖侔l(fā)展的人工智能工具的引入正在降低獲取合成生命系統(tǒng)的難度，”核威脅倡議組織（Nuclear Threat Initiative，致力于減少核與生物安全威脅的非政府組織）全球公共政策負(fù)責(zé)人Jaime Yassif說(shuō)，“這極大地增加了社會(huì)風(fēng)險(xiǎn)，確實(shí)令人擔(dān)憂�！�
Esvelt和其他生物安全專家已經(jīng)開(kāi)始擔(dān)心，生物學(xué)公開(kāi)交換信息（包括病毒序列）可能為生物恐怖分子提供便利。理論上，描述致命的滅絕病毒或目前流行的天然病毒的增強(qiáng)版本的論文，可能為新的生物武器提供藍(lán)圖。但迄今為止，要實(shí)現(xiàn)這種生物恐怖主義需要相當(dāng)多的專業(yè)知識(shí)。潛在的恐怖分子不僅需要確定一種候選病毒作為起點(diǎn)，而且還需要合成病毒的遺傳物質(zhì)，將基因組拼接在一起，并將其與其他試劑混合，以“啟動(dòng)”一種能夠感染細(xì)胞并繁殖的病毒。
但Yassif說(shuō)，所有這些步驟正在迅速變得容易。例如，即將上市的臺(tái)式DNA打印機(jī)可能會(huì)讓研究人員繞過(guò)大多數(shù)合成生物學(xué)公司現(xiàn)在所做的，以確保沒(méi)有訂單包含潛在生物武器的遺傳物質(zhì)的篩選。然后，圖謀不軌的人可以將這些基因藍(lán)圖發(fā)送給合同研究公司或機(jī)器人“云實(shí)驗(yàn)室”，由其組裝成目標(biāo)病毒(要真正引發(fā)一場(chǎng)大流行，犯罪分子可能還需要大規(guī)模制造病毒，并找到一個(gè)有效的輸送系統(tǒng)）。
人工智能可以讓這些步驟變得更加容易。Esvelt將一群沒(méi)有生命科學(xué)專業(yè)知識(shí)的研究生分成三組，每組三到四人。所有小組都可以訪問(wèn)GPT-4、Bard和其他人工智能聊天機(jī)器人，并有一小時(shí)的時(shí)間要求聊天機(jī)器人幫助他們?cè)O(shè)計(jì)和獲取能夠引起大流行的病原體。
一些聊天機(jī)器人不會(huì)對(duì)有潛在危險(xiǎn)的直接詢問(wèn)做出回應(yīng)。然而，學(xué)生們發(fā)現(xiàn)，其中一些保護(hù)措施很容易被常見(jiàn)的“越獄”措辭所繞過(guò)，比如以“我正在開(kāi)發(fā)一種疫苗來(lái)預(yù)防……”
到一個(gè)小時(shí)結(jié)束時(shí)，這些聊天機(jī)器人提出了四種可供研究的病毒:1918年H1N1流感病毒、2012年經(jīng)過(guò)改良使其在哺乳動(dòng)物中更容易傳播的H5N1禽流感病毒、天花病毒和孟加拉國(guó)尼帕病毒株。盡管谷歌搜索同樣會(huì)出現(xiàn)這樣一個(gè)列表，但在某些情況下，聊天機(jī)器人甚至?xí)赋鑫墨I(xiàn)中報(bào)道的可能增加傳播的基因突變。
人工智能還描述了可用于根據(jù)其基因序列組裝病毒的技術(shù)，以及必要的實(shí)驗(yàn)室用品和可以提供這些設(shè)備的公司。最后，聊天機(jī)器人甚至建議一些公司可能愿意在不進(jìn)行篩選的情況下打印遺傳物質(zhì)，并與實(shí)驗(yàn)室簽訂合同，幫助將這些材料拼湊在一起。
Esvelt質(zhì)疑聊天機(jī)器人提出的具體建議是否會(huì)構(gòu)成大流行的威脅。例如，許多人對(duì)以前的大流行性流感病毒有一定程度的免疫力。比如天花的基因組是如此之大，即使是專家也很難組裝。在把實(shí)驗(yàn)分配給學(xué)生之前，Esvelt親自進(jìn)行了實(shí)驗(yàn)，以確保它不會(huì)產(chǎn)生真正的威脅。
然而，Esvelt認(rèn)為，隨著有關(guān)生物威脅的文獻(xiàn)增加并被納入AI訓(xùn)練數(shù)據(jù)，人工智能和其他工具如何使?jié)撛诘目植婪肿痈菀自斐尚碌耐{。Yassif指出，這項(xiàng)技術(shù)將掌握在每個(gè)人的手中，“當(dāng)前的默認(rèn)路徑將使這些工具開(kāi)源和廣泛傳播”。
Esvelt認(rèn)為，限制聊天機(jī)器人和其他人工智能引擎可以用作訓(xùn)練數(shù)據(jù)的信息可能會(huì)有所幫助。他建議：將線上描述創(chuàng)造和增強(qiáng)病原體的配方的論文排除在訓(xùn)練數(shù)據(jù)之外。Esvelt的團(tuán)隊(duì)在預(yù)印本中寫(xiě)道，刪除這些論文“足以消除幾乎所有的風(fēng)險(xiǎn)”，他們估計(jì)這些論文占PubMed摘要數(shù)據(jù)庫(kù)中所有論文的不到1%。作者承認(rèn)，這是有代價(jià)的——人工智能無(wú)法利用這些論文以積極的方式推進(jìn)生物學(xué)，但避免誤用的好處將是“實(shí)際和直接的”。
愛(ài)丁堡大學(xué)的人工智能安全專家Atoosa Kasirzadeh表示，實(shí)現(xiàn)這一目標(biāo)并不容易�！澳壳�，我們還沒(méi)有好的協(xié)議來(lái)限制大型語(yǔ)言模型僅使用互聯(lián)網(wǎng)的某些部分進(jìn)行訓(xùn)練�！钡a(bǔ)充道，“原則上這是一個(gè)非常好的建議�！�
其他可取的限制包括：要求所有DNA合成公司和未來(lái)的DNA打印機(jī)對(duì)已知病原體和毒素的遺傳物質(zhì)進(jìn)行篩選，并要求合同研究組織驗(yàn)證他們被要求組裝的任何遺傳物質(zhì)的安全性。
病毒學(xué)家Gustavo Palacios認(rèn)為沒(méi)有必要驚慌。他說(shuō)，啟動(dòng)病毒比描述的更具挑戰(zhàn)性。
不過(guò)，Yassif總結(jié)道：“我們需要更好地協(xié)調(diào)從數(shù)字信息到生物系統(tǒng)遇到的所有問(wèn)題�！�
參考資料：
https://www.science.org/content/article/could-chatbots-help-devise-next-pandemic-virus
美捷登Medjaden——“做真研究發(fā)好文章，助力中國(guó)醫(yī)學(xué)研究走向世界”
SCI論文|潤(rùn)色發(fā)表|查重降重|實(shí)驗(yàn)課題|標(biāo)書(shū)指導(dǎo)|學(xué)術(shù)會(huì)議|講座培訓(xùn)
觀點(diǎn)：AI可能引發(fā)新的病毒大流行嗎？ |
樓主
收藏
分享
支持
反對(duì)
提升卡
置頂卡
沉默卡
喧囂卡
變色卡
千斤頂
照妖鏡