科技媒體 The Decoder 昨日(4 月 23 日)發(fā)布博文,報(bào)道稱前 OpenAI 員工、研究人員及非營(yíng)利組織聯(lián)名發(fā)表公開(kāi)信,強(qiáng)烈呼吁監(jiān)管機(jī)構(gòu)阻止 OpenAI 提出的公司重組計(jì)劃。
OpenAI 成立于 2015 年,最初為非營(yíng)利組織,旨在確保通用人工智能(AGI)開(kāi)發(fā)與公共利益保持一致。公司為籌集資金,于 2019 年設(shè)立營(yíng)利子公司 OpenAI LP,但仍由非營(yíng)利實(shí)體監(jiān)督。如今,擬議的重組計(jì)劃將運(yùn)營(yíng)控制權(quán)轉(zhuǎn)移至新的公共福利公司(PBC),非營(yíng)利實(shí)體僅作為股東,失去治理權(quán)。
最新發(fā)表的聯(lián)名公開(kāi)信指出,這一轉(zhuǎn)變將廢除利潤(rùn)限制、獨(dú)立董事會(huì)及 AGI 技術(shù)歸屬非營(yíng)利實(shí)體等關(guān)鍵機(jī)制,嚴(yán)重背離 OpenAI 公司使命。
公開(kāi)信進(jìn)一步批評(píng) OpenAI 重組缺乏透明度,質(zhì)疑新公司結(jié)構(gòu)下,未解答 AGI 技術(shù)由誰(shuí)控制問(wèn)題,此外還擔(dān)憂微軟(OpenAI 的最大投資者)會(huì)獲得訪問(wèn)權(quán)限。
此外,OpenAI 公司的“停止并協(xié)助”(stop-and-assist)條款(在實(shí)現(xiàn) AGI 之前,支持其它安全的 AGI 項(xiàng)目)可能不再具有約束力。作者警告,此重組將以公眾利益為代價(jià),惠及股東,影響 AGI 的開(kāi)發(fā)方式、盈利分配及最終控制權(quán)歸屬。
信中強(qiáng)調(diào),OpenAI 的非營(yíng)利結(jié)構(gòu)并非象征性存在,而是確保使命優(yōu)先的法律約束機(jī)制。簽署者敦促加州和特拉華州的總檢察長(zhǎng)調(diào)查此重組計(jì)劃,保護(hù)現(xiàn)有治理保障。
公開(kāi)信中還反駁了 OpenAI 關(guān)于簡(jiǎn)化資本結(jié)構(gòu)以保持競(jìng)爭(zhēng)力的說(shuō)辭,認(rèn)為當(dāng)前結(jié)構(gòu)正是確保公共福祉優(yōu)先的關(guān)鍵,而非問(wèn)題所在。
目前包括諾貝爾獎(jiǎng)獲得者杰弗里 辛頓(Geoffrey Hinton),AI 倫理研究員瑪格麗特 米切爾(Margaret Mitchell)和計(jì)算機(jī)科學(xué)家斯圖爾特 羅素(Stuart Russell)在內(nèi)的著名的 AI 研究人員簽署的一封公開(kāi)信。
IT之家查詢公開(kāi)資料,杰弗里 辛頓被譽(yù)為“AI 教父”、“深度學(xué)習(xí)鼻祖”,以其在類(lèi)神經(jīng)網(wǎng)絡(luò)方面的貢獻(xiàn)聞名。
辛頓是反向傳播算法和對(duì)比散度算法的發(fā)明人之一,也是深度學(xué)習(xí)的積極推動(dòng)者,被譽(yù)為“深度學(xué)習(xí)教父”。辛頓因在深度學(xué)習(xí)方面的貢獻(xiàn)與約書(shū)亞 本希奧、楊立昆共同獲得 2018 年的圖靈獎(jiǎng)。