OpenAI只做工具，人類充滿偏見卻不自知。

作者｜蘇霍伊

編輯｜田思奇

發(fā)自美國(guó)麻省理工學(xué)院

繼4月24日科技界的“頂流”，OpenAI首席執(zhí)行官薩姆·奧爾特曼（Sam Altman）在斯坦福大學(xué)進(jìn)行演講后，他又從硅谷橫跨美國(guó)來到了麻省理工學(xué)院（MIT）。這次的爐邊談話，奧爾特曼與MIT校長(zhǎng)莎莉·科恩布魯斯（Sally Kornbluth）共同探討了人工智能的未來發(fā)展。

當(dāng)?shù)貢r(shí)間5月2日中午13:00，距離這場(chǎng)對(duì)話開始還有2個(gè)小時(shí)，就有觀眾來到了活動(dòng)所在的MIT Swraj Paul劇院。演講開始前1個(gè)小時(shí)，門口已排起長(zhǎng)龍。由于報(bào)名的人數(shù)太多，組織方不得不啟用搖號(hào)的方式分配門票。

Swraj Paul劇院前的隊(duì)伍長(zhǎng)龍，來源：「甲子光年」拍攝

令人唏噓的是，在活動(dòng)的不遠(yuǎn)處，對(duì)巴以沖突持不同觀點(diǎn)的兩派學(xué)生正在抗議。就像這個(gè)時(shí)代的割裂縮影，沖突頻發(fā)和科技躍遷，希望與挑戰(zhàn)并存。

兩派學(xué)生的抗議陣營(yíng)，來源：「甲子光年」拍攝

作為OpenAI的掌舵人，奧爾特曼和團(tuán)隊(duì)一直不斷打破人工智能領(lǐng)域的邊界。所有的目光都集中在舞臺(tái)上，這不僅是關(guān)乎一個(gè)公司的故事，更是一場(chǎng)關(guān)乎人類創(chuàng)新閾值對(duì)話——它關(guān)乎希望、責(zé)任與未來。

正如活動(dòng)的主持人、MIT董事會(huì)主席馬克·戈倫伯格（Mark Gorenberg）在開場(chǎng)時(shí)所說：“當(dāng)大多數(shù)人提及生成AI時(shí)，便會(huì)立即想到OpenAI和奧爾特曼?！?/p>

對(duì)話活動(dòng)現(xiàn)場(chǎng)，來源：與會(huì)者提供

奧爾特曼這次的分享依舊主打一手“情懷”，關(guān)于技術(shù)本身鮮有剖析。一個(gè)小時(shí)的對(duì)話，他用直白的語言描繪出了一個(gè)“人類所用工具（tools for human）”的未來。但對(duì)于談話內(nèi)容，有MIT的同學(xué)聽過后對(duì)「甲子光年」表示“深受鼓舞”；也有認(rèn)為認(rèn)為他“凈講些‘虛頭巴腦’的大概念”。

奧爾特曼主要聊了以下七點(diǎn)：

相對(duì)于討論AI引發(fā)災(zāi)難的概率，我們更應(yīng)該關(guān)注如何避免AI帶來的災(zāi)難；

OpenAI在做的是“人類用的工具”，不是在創(chuàng)造生物；而人類充滿偏見卻往往不自知；

在參數(shù)中保存數(shù)據(jù)很“奇怪”。GPT-5或GPT-6可能嘗試將數(shù)據(jù)與推理引擎分離；

氣候也許不是一個(gè)大挑戰(zhàn)，但訓(xùn)練所需的能源是一個(gè)挑戰(zhàn)；

AI不會(huì)搶奪人類的工作。未來每個(gè)人可能都會(huì)擁有一個(gè)由AI驅(qū)動(dòng)的完整公司；

他對(duì)AI在健康和教育領(lǐng)域中的影響最感興趣，但對(duì)金融沒有太多思考；

OpenAI的使命是使計(jì)算更可及、更自然。未來不再需要掌握編程語言。

OpenAI被推到今天的位置，是因?yàn)镃hatGPT的迭代速度，某種程度上代表了自然語言處理（NLP）的技術(shù)發(fā)展和AI應(yīng)用的爆發(fā)速度。

人類對(duì)技術(shù)進(jìn)步的快速適應(yīng)，讓期待也在不斷增長(zhǎng)。就像奧爾特曼在對(duì)話中所講的：大家對(duì)GPT-4興奮了兩周，轉(zhuǎn)而又迅速詢問GPT-5的進(jìn)展（Everyone was excited about GPT-4 for two weeks, but then quickly shifted focus to asking about GPT-5）。1.面對(duì)AI技術(shù)革命，“既樂觀又悲觀”

科恩布魯斯和奧爾特曼走上臺(tái)時(shí)，掌聲不斷。來源：與會(huì)者提供

“你的‘末日值’是多少？”

伴著科恩布魯斯拋出的第一個(gè)問題，對(duì)話正式開始。她向奧爾特曼介紹，這場(chǎng)對(duì)話的所有問題，都是由學(xué)生提出、校方篩選的。

所謂“末日值”（probability of doom，簡(jiǎn)寫為p(doom)），即指?jìng)€(gè)人認(rèn)為AI可能帶領(lǐng)人類走向末日的機(jī)率，也是近期硅谷科技新貴們最常掛在嘴邊的問候語。

這個(gè)指標(biāo)的范圍從1到100。數(shù)字越高，表示個(gè)人越相信AI會(huì)消滅所有人類并導(dǎo)致世界末日。

“我認(rèn)為這個(gè)問題表述不太恰當(dāng)，問題假設(shè)了一種靜態(tài)的系統(tǒng)。”奧爾特曼回答，“雖然我自己也樂于對(duì)數(shù)字進(jìn)行長(zhǎng)篇大論。但不管這個(gè)數(shù)字是2、10、20或90，關(guān)鍵點(diǎn)在于它不是0。討論災(zāi)難概率雖然能激發(fā)深思，但相比之下，我們更應(yīng)該關(guān)注如何避免災(zāi)難，確保我們能安全、積極地面對(duì)未來?！?/p>

同時(shí)，奧爾特曼認(rèn)為AI現(xiàn)階段還沒有“做得足夠好”。十年前，他對(duì)AI有一種更“天真”的看法，將其視為一種能自行解決問題、帶來財(cái)富的“魔法超級(jí)智能”；但現(xiàn)在，他認(rèn)為AI更像是一場(chǎng)“技術(shù)革命”，為人類帶來希望。

而對(duì)于這場(chǎng)技術(shù)革命，奧爾特曼是既樂觀又悲觀的。

他一直反復(fù)強(qiáng)調(diào)的觀點(diǎn)——AI是人類科技樹上的新工具（a new tool in the tech tree of humanity）。在斯坦福演講時(shí)，奧爾特曼同樣提到OpenAI在做的是“人類用的工具（a tool for human）”，并不創(chuàng)造生物。人類沒必要害怕超級(jí)智能的人工智能，每個(gè)新模型的缺點(diǎn)也是它們持續(xù)迭代的動(dòng)力。

長(zhǎng)期以來，AI一直被詬病存在價(jià)值觀問題：誰來定義什么是偏見，什么是價(jià)值觀？如何決定系統(tǒng)應(yīng)該執(zhí)行什么任務(wù)？社會(huì)應(yīng)該在多大程度上定義這些邊界，而我們又應(yīng)該在多大程度上信任用戶合理使用這些工具？

對(duì)于這個(gè)困境，奧爾特曼的想法是在明晰技術(shù)的潛力和限制同時(shí)，還需在技術(shù)潛能和道德限制之間找到平衡。通過人類反饋進(jìn)行強(qiáng)化學(xué)習(xí)（RLHF）等技術(shù)，可以消減模型偏見的缺陷。

“人類本身就是充滿偏見的生物，但往往并不自知。”他說道，“像GPT-4或之后的GPT-5這樣的模型沒有和我們相同的心理缺陷。雖然它們不完美，但總的來說，我這些系統(tǒng)會(huì)比人類表現(xiàn)得更公正。”

除偏見外，AI發(fā)展的另一個(gè)核心問題是如何在用共享數(shù)據(jù)訓(xùn)練AI模型時(shí)保護(hù)個(gè)人隱私。

隨著技術(shù)的進(jìn)步，一個(gè)全知全能的個(gè)性化AI并非與我們遙不可及：它能追蹤我們的電子郵件、短信今和生活記錄，甚至我們看過的電視節(jié)目和文件夾。

奧爾特曼將稱它是“讓人又愛又恨的存在”：便利生活同時(shí)也帶來了極大的隱私風(fēng)險(xiǎn)。

誠(chéng)然，我們已在互聯(lián)網(wǎng)時(shí)代中犧牲了一部分隱私以獲得便利，AI的介入會(huì)讓這種權(quán)衡更為復(fù)雜。“在AI發(fā)展的背景下，我們需要重新定義‘特權(quán)信息’的概念，以防止個(gè)性化AI在法律上被用于不利于我們的情況”。

“我們得的GPT-5或GPT-6成為最佳的推理引擎，目前而言，能達(dá)到最佳引擎的唯一路徑就是訓(xùn)練大量的數(shù)據(jù)?！钡珚W爾特曼認(rèn)為，實(shí)際模型在處理數(shù)據(jù)時(shí)浪費(fèi)了許多數(shù)據(jù)資源。

比如GPT-4。它也能像數(shù)據(jù)庫一樣工作，只是推理速度慢、成本高昂且效果“不盡如人意”。這些問題本質(zhì)上是因?yàn)槟Ｐ偷脑O(shè)計(jì)和訓(xùn)練方式導(dǎo)致的資源浪費(fèi)。

“不可避免的，因?yàn)檫@是我們制作推理引擎模型的唯一方法的副作用?！钡茴A(yù)見未來會(huì)有新方法，將模型的推理能力與對(duì)大數(shù)據(jù)的需求性剝離。

值得注意的是，就在奧爾特曼演講的同一天，有網(wǎng)友在X上發(fā)文表示，OpenAI創(chuàng)建了一個(gè)新的搜索服務(wù)的域名：http://search.chatgpt.com，并由此推測(cè)Open在微軟Bing的支持下，可能正在開發(fā)一種新的搜索服務(wù)。

圖片來自X

它或?qū)⒊蔀楣雀杷阉髯畲蟮耐{，甚至完全迭代當(dāng)前的搜索引擎的方式。

隨后，科恩布魯斯問了奧爾特曼一個(gè)略為“扎心”的問題，即OpenAI的閉源決策，并希望他能多說“億點(diǎn)點(diǎn)”。但奧爾特曼選擇含糊帶過，言下之意就是“我們”已經(jīng)提供免費(fèi)的AI工具了（GPT-3.5），還要什么“自行車”。

談及能源，奧爾特曼認(rèn)為，AI的能源需求雖然巨大，但相比全球其他需求仍屬于小規(guī)模。在這樣的對(duì)比下，如果AI能助人類尋找到非碳能源，或優(yōu)化碳捕獲技術(shù)，即便耗費(fèi)1%的全球電力，這也會(huì)是一種“巨大的勝利”。同時(shí)他也表示看好核聚變。2.“當(dāng)下是AI創(chuàng)業(yè)的最好時(shí)機(jī)”

宣傳視頻是由AI生成，其中機(jī)器人代表著OpenAI，海貍是MIT的吉祥物。來源：與會(huì)者提供

AI創(chuàng)業(yè)一直是備受關(guān)注的問題。

奧爾特曼這次活動(dòng)再次強(qiáng)調(diào)了他的觀點(diǎn)：在接下來很長(zhǎng)一段時(shí)間里，都是初創(chuàng)公司的最好時(shí)機(jī)。

初創(chuàng)企業(yè)一般能在大型平臺(tái)變革期間獲得成功。相比之下，大公司雖然資源豐富，但在創(chuàng)新和迅速反應(yīng)方面往往不如初創(chuàng)企業(yè)靈活。

目前我們處于類似互聯(lián)網(wǎng)初期和移動(dòng)互聯(lián)技術(shù)興起時(shí)的歷史性時(shí)刻。如同云服務(wù)和AWS推動(dòng)了之前的技術(shù)變革，AI技術(shù)平臺(tái)正在形成，為創(chuàng)業(yè)提供了絕佳的機(jī)遇。

但在技術(shù)革新的熱潮中，初創(chuàng)企業(yè)也不能忽視傳統(tǒng)商業(yè)策略的重要性，需要在追求創(chuàng)新的同時(shí)，建立牢固的客戶關(guān)系和市場(chǎng)地位，“這些都是持久成功的關(guān)鍵”。

AI技術(shù)的興起對(duì)未來的就業(yè)市場(chǎng)同樣有著重大影響。

根據(jù)領(lǐng)英最近的勞動(dòng)力市場(chǎng)調(diào)研，生成式人工智能（GAI）技術(shù)的興起正在對(duì)全球職業(yè)市場(chǎng)產(chǎn)生深遠(yuǎn)影響。2023年，已有超過500種職業(yè)技能可能受到AGI的影響，預(yù)計(jì)到2030年，將有65%的職業(yè)技能發(fā)生變化。

高盛的研究也指出，在美國(guó)和歐洲，生成式AI對(duì)職業(yè)任務(wù)的自動(dòng)化威脅顯著，目前美國(guó)大約2/3的工作在一定程度上面臨AI自動(dòng)化的風(fēng)險(xiǎn)，且生成式AI可能取代1/4的崗位。在全球范圍內(nèi)，生成式AI的發(fā)展可能使3億個(gè)全職工作崗位面臨淘汰的危險(xiǎn)。

“有觀點(diǎn)認(rèn)為AI將帶來職業(yè)的消失，但技術(shù)革命也會(huì)創(chuàng)造新的職業(yè)機(jī)會(huì)。AI會(huì)改變很多工作的性質(zhì)，并帶來全新的職業(yè)類別?！眾W爾特曼解釋道，“這種變化需要時(shí)間來顯現(xiàn)其經(jīng)濟(jì)影響，好的或壞的，都將是我們可以實(shí)際測(cè)量和感受到的。”

創(chuàng)業(yè)者和就業(yè)市場(chǎng)面對(duì)的是一個(gè)快速變化的技術(shù)環(huán)境。關(guān)鍵在于適應(yīng)這些變化，找到與新技術(shù)共存的方式。

科恩布魯斯和奧爾特曼也從AI監(jiān)管的角度對(duì)創(chuàng)業(yè)、就業(yè)的影響進(jìn)行了討論。

科恩布魯斯提到了美國(guó)國(guó)家層面對(duì)AI技術(shù)的監(jiān)管，她提到有人擔(dān)心過度的監(jiān)管可能會(huì)鞏固大公司的地位，限制小企業(yè)和創(chuàng)新者的發(fā)展機(jī)會(huì)。

對(duì)此，奧爾特曼認(rèn)為在于“合理的閾值”。“完全不監(jiān)管AI的想法雖然存在，但最終還是要通過民主進(jìn)程來決定?！彼窒砹俗约旱挠^點(diǎn)，監(jiān)管政策的制定需要既保護(hù)消費(fèi)者安全，也要避免對(duì)小型企業(yè)和創(chuàng)新者的過度壓制。

隨著時(shí)間的推移，計(jì)算機(jī)技術(shù)變得越來越易于接觸和使用。從低級(jí)編程語言到現(xiàn)在的高級(jí)編程語言，技術(shù)的演變使得編程變得更加直觀和強(qiáng)大。這種從命令行到圖形用戶界面（GUI）的轉(zhuǎn)變，以及從物理鍵盤到觸摸屏的過渡，都標(biāo)志著用戶與計(jì)算機(jī)交互方式的演化。

“OpenAI的使命是使計(jì)算更可及、更自然?！眾W爾特曼說。像ChatGPT這樣的自然語言處理技術(shù)，正在推動(dòng)AI與人類使用相同的交互界面，這種趨勢(shì)可能會(huì)終結(jié)未來技術(shù)使用者對(duì)編程語言的需求。

而在具體的行業(yè)上，奧爾特曼表示自己最關(guān)注AI對(duì)健康和教育領(lǐng)域的影響，對(duì)金融領(lǐng)域的思考并不多。

在教育領(lǐng)域，AI的應(yīng)用有巨大潛力實(shí)現(xiàn)課堂教學(xué)的個(gè)性化和優(yōu)化。AI可以根據(jù)每個(gè)學(xué)生的學(xué)習(xí)進(jìn)度和風(fēng)格調(diào)整教學(xué)內(nèi)容和節(jié)奏，讓教育更加符合個(gè)人需求。

“我認(rèn)為AI時(shí)代出生的嬰兒永遠(yuǎn)無法想象一個(gè)沒有智能產(chǎn)品和服務(wù)的世界?！眾W爾特曼說。毋庸置疑，AI技術(shù)的發(fā)展正在推動(dòng)社會(huì)各個(gè)層面的變革，從個(gè)性化服務(wù)的提供到教育模式的優(yōu)化，再到職場(chǎng)技能的重新定義。

在這場(chǎng)演講之外，ChatGPT等多重AI產(chǎn)品，正在幫助人類塑造一個(gè)更加智能化、個(gè)性化的未來。

這很容易讓人聯(lián)想到人工智能創(chuàng)造力，或稱計(jì)算創(chuàng)造力。這是一個(gè)研究如何設(shè)計(jì)出能達(dá)到甚至超過人類水平創(chuàng)造力的程序的多學(xué)科領(lǐng)域。

有關(guān)該領(lǐng)域的討論可以追溯到19世紀(jì)，“計(jì)算機(jī)程序之母”埃達(dá)·洛夫萊斯曾質(zhì)疑機(jī)器的獨(dú)立創(chuàng)造力，但近年來無監(jiān)督學(xué)習(xí)的進(jìn)步讓人們重新考慮AI的創(chuàng)造潛能。目前有兩種主流觀點(diǎn)：一種看待AI作為人類創(chuàng)造性的增強(qiáng)工具，另一種則希望AI成為完全獨(dú)立的創(chuàng)造者。

AI在模仿和生成新內(nèi)容方面取得了顯著進(jìn)展，但由于缺乏真正的情感理解和直覺，生成式人工智能不能替代人類的智慧和洞察力。正如斯坦福大學(xué)教授李飛飛所言：“AI替代不了人性的部分，就像宮崎駿永遠(yuǎn)也不會(huì)被AI替代?！?/p>

我們將被機(jī)器賦予越來越多的超能力，但作為人類的核心不會(huì)被取代。