5 月 13 日，據(jù)《商業(yè)內幕》報道，OpenAI 前研究員、現(xiàn)任 AI 未來項目 (AI Futures Project) 負責人丹尼爾 · 科科塔伊洛 (Daniel Kokotajlo) 表示，AI 行業(yè)正在競相構建各家公司自身尚未完全理解或控制的系統(tǒng)。
科科塔伊洛在去年 5 月接受《商業(yè)內幕》記者采訪時解釋說，AI 公司面臨的核心問題是“對齊”問題，即努力確保未來的 AI 系統(tǒng)能夠可靠地遵循人類的指令和價值觀，即使它們在許多領域的能力已經(jīng)超越人類。
他表示，研究人員目前并不完全理解先進 AI 模型在內部如何做出決策，這種不確定性使得很難確保未來系統(tǒng)真正“對齊”并穩(wěn)定執(zhí)行人類希望它完成的目標。
“這在某種程度上可以說是一個公開的秘密，但我們還沒有一個真正可行的解決方案。”他在談到實施 AI 對齊時說道。
科科塔伊洛在 2022 年至 2024 年在 OpenAI 從事預測研究工作，研究 AI 系統(tǒng)可能以多快的速度進步，以及隨著企業(yè)構建更強大的模型，可能會出現(xiàn)哪些經(jīng)濟、政治和安全風險，之后他離開了該公司。
如今，他通過自己的非營利研究機構 AI 未來項目，專注于類似的課題，重點分析 AI 系統(tǒng)可能以多快的速度發(fā)展，以及如果企業(yè)繼續(xù)優(yōu)先追求速度和競爭，將會出現(xiàn)哪些風險。
“一旦超級智能被造出來，人類將不再是這個星球的主導者，至少不再是默認的主導者?！笨瓶扑谅灞硎尽?/p>
科科塔伊洛表示，許多人仍然低估了 AI 發(fā)展的速度，因為相關的討論聽起來往往像科幻小說。他的這一警告正值 AI 公司持續(xù)向更強大模型和更大規(guī)模數(shù)據(jù)中心投入數(shù)十億美元之際。
廣告聲明：文內含有的對外跳轉鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。