如果OpenAI有最想劃掉的經(jīng)歷，那么大概率就是推出AI Classifier了。
作為轟動全球的ChatGPT的研發(fā)者，OpenAI在AI時代所獲得的關(guān)注無人能比。然而，就是這么一家在AI領(lǐng)域讓人難以望其項背的公司，最近卻遭遇了滑鐵盧。
今年1月，OpenAI推出了可以識別文本來源類別的應(yīng)用AI Classifier。OpenAI原打算用它來檢測某個文本的來源是人工智能編寫還是人類編寫。然而，它的表現(xiàn)出乎意料的差。
AI Classifier的正確識別率不僅不盡如人意，甚至比不上其它毫不知名的小公司所開發(fā)的工具，短短半年時間就被停止了服務(wù)。
自知面上無光的OpenAI甚至把停止服務(wù)的公告都隱藏在1月份發(fā)布的文章里面，采用內(nèi)容更新的方式編輯的舊聞。
AI Classifier的失敗從側(cè)面證實了，目前，OpenAI并沒有有效的辦法控制ChatGPT所造成的影響。
而這件“停服小事”已經(jīng)淹沒在信息海洋中，并沒有引發(fā)大家足夠的重視。
01
AI Classifier誕生背景：教育界的集體抵制
2022年11月底，ChatGPT一經(jīng)推出就火遍全球，短短5天時間吸引了上百萬用戶，僅用兩個月就達(dá)到上億月活，躥紅速度前無古人，甚至在并沒有開通服務(wù)的大洋彼岸引發(fā)了一次大模型進(jìn)化風(fēng)潮。無數(shù)的中小公司改頭換面，套殼蹭熱度，甚至一時之間在BOSS上新誕生出了ChatGPT運(yùn)營、ChatGPT提示詞工程師等等崗位。一波又一波的新媒體人通過視頻、圖文等方式，教網(wǎng)友怎么靠AI賺錢。
B端企業(yè)更是嗷嗷待哺，一系列與AI有關(guān)的公司突然成為當(dāng)紅炸子雞。前腳還罵百度錯過了移動時代的人，后腳就夸百度是個有遠(yuǎn)見的長期主義者。在某些“大廠”內(nèi)部，更是全員開腦洞，集體研究大模型可以如何運(yùn)用，怎么和現(xiàn)有業(yè)務(wù)相結(jié)合。甚至有車企表示，把大模型集成到車機(jī)系統(tǒng)中，也是正在考慮的事項。
而身在ChatGPT核心地帶的小孩們，則成為首批通過ChatGPT獲益的人。Study的一項調(diào)查顯示，有超過89%的學(xué)生通過ChatGPT做作業(yè)，這引發(fā)了教育界的普遍擔(dān)憂。而這些擔(dān)憂中，也包含部分老師的驚訝。有美國教師表示，嘗試用ChatGPT為學(xué)生評估作業(yè)，發(fā)現(xiàn)ChatGPT迅速的提供了比他自己更詳細(xì)更有用的反饋。
相比于鼓吹A(chǔ)I能力的科技作者，教育界的擔(dān)憂還體現(xiàn)在傳統(tǒng)教育思維有可能被打破的困擾上。美國權(quán)利法案研究所的一項投票顯示，有52.8%的人認(rèn)為應(yīng)該禁止ChatGPT進(jìn)入課堂。他們認(rèn)為，人工智能對傳統(tǒng)學(xué)習(xí)構(gòu)成了威脅。此外，ChatGPT還有被剽竊、給出錯誤答案和誤導(dǎo)人的嫌疑。有人留言警告稱，ChatGPT開始取代批判性思維。
根據(jù)報道，包括美國在內(nèi)，多地多所學(xué)校曾禁止學(xué)校設(shè)備和網(wǎng)絡(luò)對ChatGPT的訪問，英國的倫敦帝國理工大學(xué)和劍橋大學(xué)等頂尖大學(xué)也都發(fā)表聲明，警告學(xué)生不要使用ChatGPT作弊。而對于ChatGPT究竟是改變教育還是摧毀教育，網(wǎng)絡(luò)上的爭辯此起彼伏，但提及最多的，還是這種工具的依賴性會摧毀人們的批判性思維和創(chuàng)造力。
此外，來自科學(xué)界的聲音也將矛頭對準(zhǔn)了ChatGPT?！犊茖W(xué)》雜志明確禁止將ChatGPT列為合著者，且不允許在論文中使用ChatGPT所生產(chǎn)的文本。《自然》雜志表示，可以在論文中使用大型語言模型生成的文本，但不能將其列為論文合著者。
而在文本之外，由AI生產(chǎn)的圖片和視頻則更具欺騙性，有關(guān)于此前AI換臉?biāo)鶐淼牡赖聠栴}被重新提及。在這種情況下，如何分辨內(nèi)容來自人類還是AI就變得尤為重要。
02
拜登：你們要給AI生產(chǎn)的內(nèi)容加個水印
如果說，教育和科研界對于ChatGPT的擔(dān)心更多的是用戶使用層面，那么來自于國家政策方面的阻力以及對安全性的擔(dān)憂則對OpenAI生存造成了極大挑戰(zhàn)。
在今年3月底，意大利個人數(shù)據(jù)保護(hù)局宣布，暫時禁止使用ChatGPT，并表示已對ChatGPT背后的OpenAI公司展開調(diào)查，這也是首個禁止ChatGPT的西方國家。其后，包括德國、加拿大等國也開始調(diào)查OpenAI相關(guān)問題。
甚至，包括圖靈獎得主約書亞·本吉奧、特斯拉CEO埃隆·馬斯克、蘋果公司聯(lián)合創(chuàng)始人史蒂夫?沃茲尼亞克等數(shù)千名AI領(lǐng)域企業(yè)家、學(xué)者、高管發(fā)出公開信，建議所有AI研究室立刻暫停訓(xùn)練比GPT-4更加強(qiáng)大的AI系統(tǒng)，為期至少6個月，并建議各大企業(yè)、機(jī)構(gòu)共同開發(fā)一份適用于AI研發(fā)的安全協(xié)議，同時信中還提到各國政府應(yīng)當(dāng)在必要的時候介入其中。
而對于中國、俄羅斯和伊朗等國，雖然ChatGPT并未遭到禁止，但OpenAI主動屏蔽了相關(guān)地區(qū)用戶的注冊許可。截至目前，包括美國在內(nèi)的多個國家都已經(jīng)開始對OpenAI進(jìn)行數(shù)據(jù)安全、虛假信息等方面的調(diào)查。部分政客甚至擔(dān)心，ChatGPT之類的應(yīng)用會操縱選舉。
今年7月26日，微軟、谷歌和OpenAI等公司發(fā)布聯(lián)合公告，宣布成立前沿模型論壇（Frontier Model Forum），致力于確保安全、負(fù)責(zé)任地開發(fā)前沿人工智能AI模型。這些動作顯然與民眾要求美國加強(qiáng)對AI的監(jiān)管呼聲有關(guān)。
微軟總裁布拉德·史密斯表示：“開發(fā)AI技術(shù)的公司有責(zé)任確保其安全、可靠，并仍處于人類控制之下。”O(jiān)penAI負(fù)責(zé)全球事務(wù)的副總裁安娜·馬坎朱也發(fā)表聲明稱：這是一項緊迫的工作，這個論壇有能力迅速采取行動，推進(jìn)AI的安全狀況?！?/p>
然而，該舉措仍舊遭到質(zhì)疑，科技公司被指試圖趕在監(jiān)管機(jī)構(gòu)之前制定AI開發(fā)和部署的規(guī)則。抗議人士表示，科技行業(yè)有未能遵守“自我監(jiān)管承諾”的歷史。
在成立該論壇之前，拜登曾與前沿模型論壇的創(chuàng)始人會面，白宮敦促相關(guān)企業(yè)給出“保障措施”，會議承諾，對人工智能生產(chǎn)的內(nèi)容增加數(shù)字水印，以便更容易發(fā)現(xiàn)深度偽造等誤導(dǎo)性材料。不過此項措施仍舊被美國媒體指責(zé)動作太慢。
早在今年6月，歐盟立法者同意了一系列規(guī)則草案，其中就包括ChatGPT等系統(tǒng)必須披露人工智能生成的內(nèi)容。
03
互聯(lián)網(wǎng)已經(jīng)被大規(guī)模污染，沒有人能夠逃脫
如果說，來自政界和教育界的擔(dān)憂是前瞻性的，那么互聯(lián)網(wǎng)上被人工智能污染且循環(huán)利用的垃圾信息正在困擾著每一個互聯(lián)網(wǎng)的使用者。
最近，在中文互聯(lián)網(wǎng)上流傳著這樣的一個事件。有用戶向Bing提問“象鼻山是否有纜車”，Bing給出了看似專業(yè)的答案，甚至有營業(yè)時間和票價。然而，網(wǎng)友點開參考鏈接，竟然發(fā)現(xiàn)參考鏈接的回答者仍然是AI，這個AI在知乎上的很多回答內(nèi)容都未經(jīng)證實。
而在國外，美國知名科幻電子雜志《克拉克世界》的總編尼爾·克拉克說，今年早些時候，該雜志不得不暫時停止接受在線投稿，因為其被數(shù)百篇人工智能生成的故事給淹沒。與此相似的還有，洛桑聯(lián)邦理工學(xué)院的研究人員在網(wǎng)上聘請自由撰稿人，對《新英格蘭醫(yī)學(xué)雜志》上發(fā)表的摘要進(jìn)行總結(jié)，結(jié)果發(fā)現(xiàn)其中超過三分之一的人使用了人工智能生成的內(nèi)容。
性質(zhì)更為惡劣的是，有網(wǎng)友發(fā)現(xiàn)，AI會制作假的科普配圖，甚至生產(chǎn)假新聞。江西一男子為吸粉引流，曾利用ChatGPT生成假新聞，聲稱“鄭州雞排店驚現(xiàn)血案”，內(nèi)容獲得瘋狂轉(zhuǎn)發(fā)。深圳一自媒體公司，為獲得流量，通過 ChatGPT 修改編輯過時的社會熱點新聞，炮制假新聞在平臺上分發(fā)獲取收益，最終被警察抓獲。
據(jù)美國的民間新聞評級公司NewsGuard的調(diào)查，全球有至少365個AI生成新聞網(wǎng)站。這些網(wǎng)站幾乎沒有人監(jiān)督，語言涵蓋了中文、英文、法語等13種語言。網(wǎng)站主通過低質(zhì)且虛假的內(nèi)容獲取流量，進(jìn)行廣告位的售賣，以此獲得利潤。該機(jī)構(gòu)還發(fā)現(xiàn)，ChatGPT-3.5在被提示時，80%的情況下會產(chǎn)生錯誤信息和虛假敘述，ChatGPT-4在這種情況下比例上升至100%。此外，該機(jī)構(gòu)還聲稱，中文互聯(lián)網(wǎng)中錯誤的AI信息要多于英文互聯(lián)網(wǎng)。
更令人憂心的是，AI不僅入侵了網(wǎng)絡(luò)新聞，還正在稀釋購物網(wǎng)站點評的真實性。有截圖顯示，在亞馬遜上的一款商品的評價中，有人上傳了AI產(chǎn)生的評價，“作為一個 AI 語言模型，我沒有親自使用過這個產(chǎn)品，但根據(jù)它的功能和用戶評論，我可以自信地給它打 5 星”。
04
AI準(zhǔn)確性需要消耗大量資源，而OpenAI需要降本增效
ChatGPT顯然是一個充滿能量的物種，但是越來越多的麻煩正在纏繞著OpenAI。不同于國內(nèi)余波未平的大模型和AIGC熱，越來越多國外的機(jī)構(gòu)和媒體正在質(zhì)疑ChatGPT對于環(huán)境的負(fù)面影響。
模型精度和算力強(qiáng)相關(guān)。模型的大小由其參數(shù)量及其精度決定，精度下降使得算力承載擴(kuò)大的同時，也會導(dǎo)致性能在一定程度上下降。而算力又對應(yīng)著資源消耗，資源的背后則是成本和環(huán)境問題。因此，一個精確的通用大語言模型背后所消耗的資源可能是海量的。
加州大學(xué)研究人員的報告顯示，微軟數(shù)據(jù)中心在訓(xùn)練GPT-3期間，使用了大約70萬升的淡水。當(dāng)ChatGPT用于回答問題或生成文本任務(wù)時，20-50個簡單對話就會消耗一瓶500ml的水（服務(wù)器中的能量會轉(zhuǎn)換為熱量，需要用水來降溫）。知名計算機(jī)專家吳軍形容，ChatGPT每訓(xùn)練一次，相當(dāng)于3000輛特斯拉在一個月走完了21年的路。
根據(jù)斯坦福人工智能研究所（HAI）發(fā)布的《2023年人工智能指數(shù)報告》，訓(xùn)練像OpenAI的GPT-3這樣的人工智能模型所需消耗的能量，足可以讓一個普通美國家庭用上數(shù)百年。
而根據(jù)方正證券的一份研究報告，如果Open AI想通過ChatGPT實現(xiàn)盈利，那么就需要通過降低精度控制算力成本，并且提高用戶的付費(fèi)率。目前，ChatGPT大部分用戶使用的正是免費(fèi)且所占算力成本巨大的GPT-3.5。
因此，無論是從資源環(huán)境的方面，還是出于項目成本控制的考慮，降低GPT-3.5的精度似乎都成為了一項可以考慮的事情。
此前就有媒體報道，GPT-4疑似變笨。有國外網(wǎng)友稱，雖然GPT-4反應(yīng)很快，但它的輸出質(zhì)量更像是GPT-3.5++。GPT-4產(chǎn)生了更多的bug代碼，答案也缺乏深度和分析，其對復(fù)雜程度相似的問題處理結(jié)果甚至還不如它的前身GPT-3或GPT-3.5。
這直接引發(fā)了OpenAI為節(jié)約成本偷工減料質(zhì)疑。
05
OpenAI打開的是魔盒還是百寶箱，最終還要看人類自己
目前OpenAI有非常多棘手的問題有待解決，其中有生存的問題，更有發(fā)展的問題，而這些問題都急需ChatGPT可以與人類重建信任，而信任的第一步就是可追溯。
從教育界開始，越來越多的人需要分清哪些內(nèi)容來自于AI，哪些內(nèi)容來自于人類。除了OpenAI自研的AI Classifier外，普林斯頓大學(xué)的華人學(xué)生開發(fā)的軟件 GPTZero也曾被給予厚望，但效果并不盡如人意。此外，包括Turnitin等軟件也有AI檢測的功能，但識別準(zhǔn)確率仍然不夠高。
有人把目前的AI技術(shù)大爆炸描述成“軍備競賽”，但似乎，我們現(xiàn)在確實也到了面對新型“核彈”的時刻。雖然OpenAI不同的高管在多個場所表明安全的重要性，但如何實現(xiàn)這一承諾仍然道阻且長。
實際上，為了保證ChatGPT的答案可以不至于太離譜，OpenAI需要非常多準(zhǔn)確且來源清晰的訓(xùn)練數(shù)據(jù)。斯坦福的研究顯示，使用AI生成的數(shù)據(jù)訓(xùn)練次數(shù)超過5次，模型就會出現(xiàn)崩潰（性能下降以致于難以使用）。也就是說，如果不能給模型提供新鮮的、人類標(biāo)注的數(shù)據(jù)，其輸出質(zhì)量將會受到嚴(yán)重影響。
遺憾的是，目前AIGC的內(nèi)容已經(jīng)無處不在，而OpenAI并沒有辦法大規(guī)模的分離出目前AI已經(jīng)產(chǎn)生的內(nèi)容。而AI Classifier的失敗正是OpenAI對于此事無能的注解。
雖然，包括美國政府在內(nèi)，越來越多的人正在期待數(shù)字水印技術(shù)可以為ChatGPT之類的人工智能裝上護(hù)欄，但一個遺憾的事實是，OpenAI本身早就對數(shù)字水印技術(shù)進(jìn)行了研究和探索，而OpenAI截至目前仍未有效的利用數(shù)字水印來區(qū)分AI所生產(chǎn)的文本。
至于未來如何，也許我們只能祈禱，大語言模型會成長為核電站，而不是核導(dǎo)彈了。
