越來越多的AI研究人員表示,該技術可能會毀滅人類,那怕這些機器人想做的僅僅是製造回形針。
Anthropic研究員雅各布·考克森(Jacob Coxon)本周辭職,並稱自己的前東家及其競爭對手OpenAI正在競相開發“可能在本十年末殺死我們所有人”的技術。
有此想法的並非只有考克森一人。就在他表態幾分鐘後,Anthropic的一名現任員工也證實了這一點。“我們真的深信AI可能毀滅全人類!”在Anthropic牽頭負責未來人工智慧系統的引導與控制研究的埃文·哈賓格(Evan Hubinger)寫道,並估計人類在未來十年內走向滅絕的機率超過10%。
面對這種言論,許多人現在不禁要問:這怎麼可能發生?既然明知AI構成了切實且日益嚴重的威脅,為何還要執意去研發它?