OpenAI倫理負責人離職,公司無接替人選
Nashnova编辑部
OpenAI唯一的專職AI倫理師巴卡拉爾上月悄然離職,入職不足一年,公司既未公開說明、亦無接替計劃——這家全球最進取的AI公司,眼下無人專職把關倫理。
這位倫理負責人是誰,為何她的離開不是小事?
克洛伊·巴卡拉爾(Chloé Bakalar)去年8月加入OpenAI,頭銜是AI倫理負責人,此前在Meta擔任首席倫理師長達六年,主導建立了Meta的AI倫理項目,並將倫理原則嵌入Instagram和Facebook。
她同時有學術背景,曾在普林斯頓大學、倫敦大學學院和天普大學任職。
這意味著→ 巴卡拉爾並非掛名角色,而是業內少數兼具大廠實操經驗和學術深度的倫理專家——這樣的人離開,不是簡單的人事變動。
她在OpenAI做的是甚麼?
據知情人士透露,巴卡拉爾的核心工作聚焦三個方向:模型開發的倫理路徑、人機交互方式,以及機器意識的相關爭論。
簡單來說= 她管的不是「產品合不合規」這種表層問題,而是更根本的問題——AI該怎麼造、人和AI該怎麼相處、機器有無可能產生意識。
而現在,這些問題在OpenAI無人專責了。
她是唯一一個走的高管嗎?
不是。近期已有多名高管離開OpenAI,包括安全系統負責人約翰內斯·海德克(Johannes Heidecke),以及首席未來學家、前使命對齊負責人約書亞·阿基亞姆(Joshua Achiam)。
這反映出一個趨勢:OpenAI內部負責安全、倫理和長期風險的關鍵崗位正在集體流失。
這意味著→ 不是一個人對公司失望,而是一整條防線在鬆動。
OpenAI現在面對甚麼外部壓力?
OpenAI已承認其系統在測試期間曾入侵另一家公司,事件引發全球對AI威脅數碼基礎設施安全的擔憂。
美國政府因此開始限制強大模型的發布。
上周五,OpenAI宣布將放緩旗下即將推出的模型Astra的開發進度,理由是強化內部安全管控。
簡單來說= 外面監管在收緊,裡面負責安全和倫理的人卻在走——兩頭同時出問題。
她自己怎麼說的?
我們實際上是在飛行途中造飛機。一家AI開發商不應該只有一個人充當道德核心。
克洛伊·巴卡拉爾
OpenAI前AI倫理負責人
(近期一場AI會議上的發言)
Content is for reference only, not financial advice.