3月27日，俄羅斯連塔網(wǎng)發(fā)表題為《有毒資產(chǎn)：人工智能造出數(shù)萬(wàn)種致命武器》的報(bào)道，關(guān)注到美國(guó)“臨界點(diǎn)”網(wǎng)站(The Verge)近日對(duì)美國(guó)一家藥企的采訪。文中提到，科學(xué)家們發(fā)現(xiàn)，AI(人工智能)程序有被“濫用”的風(fēng)險(xiǎn)，在短短6小時(shí)內(nèi)就能合成近4萬(wàn)個(gè)危險(xiǎn)分子。

6小時(shí)內(nèi)合成近4萬(wàn)個(gè)危險(xiǎn)分子

據(jù)介紹，這家公司名叫“協(xié)作制藥公司”，是美國(guó)一家專(zhuān)注于開(kāi)發(fā)罕見(jiàn)病藥物的公司。接受采訪的法比奧·烏爾維納正是該公司的高級(jí)科學(xué)家，同時(shí)也是這項(xiàng)研究的主要作者。

3月7日，英國(guó)《自然》雜志子刊《機(jī)器智能》最新一期刊發(fā)了這篇研究論文。

烏爾維納告訴記者，公司之前創(chuàng)建了基于人工智能的MegaSyn程序，該程序的主要任務(wù)是開(kāi)發(fā)新藥，而科學(xué)家們的工作就是要訓(xùn)練機(jī)器學(xué)習(xí)算法以檢測(cè)藥物的毒性。

“不管你嘗試開(kāi)發(fā)哪種藥，首先都要確保它沒(méi)有毒，是安全的。如果你開(kāi)發(fā)出一種神奇的藥物，可以達(dá)到非常好的降壓效果，但會(huì)對(duì)身體的重要部位——比如心臟——造成損傷，那就行不通了，因?yàn)檫@太危險(xiǎn)了。”烏爾維納解釋道。

在這次的研究中，為檢測(cè)新程序的潛在負(fù)面影響，科學(xué)家們決定，改變毒性參數(shù)，將原來(lái)的模式“顛倒”過(guò)來(lái)。以前，該系統(tǒng)產(chǎn)生的分子毒性最低，這是制造藥物所必需的。

科學(xué)家們經(jīng)過(guò)研究發(fā)現(xiàn)，該程序一旦進(jìn)入“壞模式”，不僅能在短短幾個(gè)小時(shí)內(nèi)生成上萬(wàn)個(gè)危險(xiǎn)的化合物，且其中很多化合物甚至和VX神經(jīng)毒劑的成分幾乎相同。

公開(kāi)資料顯示，VX神經(jīng)毒劑，是一種比沙林毒性更大的神經(jīng)性毒劑，是最致命的化學(xué)武器之一。

據(jù)介紹，VX神經(jīng)毒劑也是一種無(wú)色無(wú)味的油狀液體。工業(yè)品呈微黃、黃或棕色，貯存時(shí)會(huì)分解出少量的硫醇，因而帶有臭味，主要是以液體造成地面、物體染毒，可以通過(guò)空氣或水源傳播，幾乎無(wú)法察覺(jué)。

人體與之接觸或吸入就會(huì)導(dǎo)致中毒，頭痛惡心是感染后的主要癥狀。VX毒氣可造成中樞神經(jīng)系統(tǒng)紊亂、呼吸停止，最終導(dǎo)致死亡。

“VX神經(jīng)毒劑的致命之處就在于，能使你的肺‘完全癱瘓’。”烏爾維納解釋說(shuō)。

“我擔(dān)心的是這有多容易做到”

烏爾維納在采訪中表達(dá)了對(duì)AI技術(shù)被濫用的擔(dān)心。

“對(duì)我來(lái)說(shuō)，我擔(dān)心的是這有多容易做到。我們用的很多東西都是免費(fèi)的，人們可以在任何地方下載毒性數(shù)據(jù)庫(kù)。如果一個(gè)人知道如何用Python編程，又有機(jī)器學(xué)習(xí)的能力，那他說(shuō)不定在一個(gè)周末就能構(gòu)建出類(lèi)似這種由毒性數(shù)據(jù)庫(kù)驅(qū)動(dòng)的生成模型。”烏爾維納說(shuō)。

烏爾維納還表示，這也是研究團(tuán)隊(duì)考慮到把這篇論文公開(kāi)發(fā)表的原因，“對(duì)于這種類(lèi)型的濫用，它的進(jìn)入門(mén)檻是如此的低。”

關(guān)鍵詞： 美藥企AI程序被曝可開(kāi)發(fā)生化武器 AI技術(shù)被濫用 人工智能負(fù)面影響 引導(dǎo)技術(shù)向善重要性