12月19日消息，美國(guó)當(dāng)?shù)貢r(shí)間周一，人工智能研究公司OpenAI表示，即使公司領(lǐng)導(dǎo)層認(rèn)為人工智能（AI）模型足夠安全，其董事會(huì)也可以選擇推遲發(fā)布。這是該公司授權(quán)其董事加強(qiáng)尖端技術(shù)開(kāi)發(fā)安全保障措施的另一個(gè)明顯跡象。
周一發(fā)布的一套指導(dǎo)方針詳細(xì)說(shuō)明了這一決策流程，并解釋了OpenAI計(jì)劃如何應(yīng)對(duì)其最強(qiáng)大人工智能系統(tǒng)可能帶來(lái)的極端風(fēng)險(xiǎn)。該指導(dǎo)方針發(fā)布前，OpenAI首席執(zhí)行官薩姆·奧特曼（Sam Altman）曾被董事會(huì)短暫罷免，公司經(jīng)歷了一段動(dòng)蕩時(shí)期，這使得董事和公司高管之間的權(quán)力平衡成為人們關(guān)注的焦點(diǎn)。
OpenAI最近組建的“準(zhǔn)備”（Preparedness）團(tuán)隊(duì)表示，它將繼續(xù)評(píng)估公司的人工智能系統(tǒng)，以確定它們?cè)谒膫€(gè)不同類別中的表現(xiàn)，包括潛在的網(wǎng)絡(luò)安全問(wèn)題以及化學(xué)武器、核武器以及生物武器威脅，并努力減少該技術(shù)可能造成的任何危害。具體來(lái)說(shuō)，OpenAI正在監(jiān)控所謂的“災(zāi)難性”風(fēng)險(xiǎn)，它在指導(dǎo)方針中將其定義為“任何可能導(dǎo)致數(shù)千億美元經(jīng)濟(jì)損失或?qū)е略S多人受到嚴(yán)重傷害或死亡的風(fēng)險(xiǎn)”。
亞歷山大·馬德里（Aleksander Madry）是“準(zhǔn)備”團(tuán)隊(duì)的負(fù)責(zé)人，目前正在麻省理工學(xué)院休假。他稱，該團(tuán)隊(duì)將向一個(gè)新的內(nèi)部安全咨詢小組發(fā)送月度報(bào)告，后者隨即將分析馬德里團(tuán)隊(duì)的工作，并向奧特曼和公司董事會(huì)提交建議。在奧特曼被短暫解雇后，公司董事會(huì)進(jìn)行了全面改革。根據(jù)這份文件，奧特曼及其領(lǐng)導(dǎo)團(tuán)隊(duì)可以根據(jù)這些報(bào)告決定是否發(fā)布新的人工智能系統(tǒng)，但董事會(huì)有權(quán)否決他們的決定。
OpenAI在10月份宣布成立“準(zhǔn)備”團(tuán)隊(duì)，使其成為該公司監(jiān)督人工智能安全的三個(gè)獨(dú)立團(tuán)隊(duì)之一。另外兩個(gè)團(tuán)隊(duì)分別是“安全系統(tǒng)”團(tuán)隊(duì)，著眼于當(dāng)前的產(chǎn)品，如GPT-4，以及“超級(jí)對(duì)齊”（Superalignment）團(tuán)隊(duì)，專注于未來(lái)可能存在的極其強(qiáng)大的人工智能系統(tǒng)。
馬德里表示，他的團(tuán)隊(duì)將反復(fù)評(píng)估OpenAI最先進(jìn)的、尚未發(fā)布的人工智能模型，根據(jù)不同類型的感知風(fēng)險(xiǎn)將它們?cè)u(píng)為“低等”、“中等”、“高等”或“關(guān)鍵”。該團(tuán)隊(duì)還將做出改變，希望減少他們?cè)谌斯ぶ悄苤邪l(fā)現(xiàn)的潛在危險(xiǎn)，并衡量其有效性。根據(jù)新的指導(dǎo)方針，OpenAI將只推出危險(xiǎn)評(píng)級(jí)為“中等”或“低等”的模型。
馬德里還希望其他公司也能使用OpenAI的指導(dǎo)方針來(lái)評(píng)估其人工智能模型的潛在風(fēng)險(xiǎn)。他說(shuō)，這些指導(dǎo)方針是OpenAI之前在評(píng)估已發(fā)布人工智能技術(shù)時(shí)遵循的許多流程的正規(guī)化。他和他的團(tuán)隊(duì)在過(guò)去幾個(gè)月里提出了許多細(xì)節(jié)，并從OpenAI內(nèi)部其他人那里得到了反饋。
來(lái)源：網(wǎng)易科技報(bào)道
編輯：安安
