近日，聊天機器人創企Character.AI因捲入一則青少年自殺案而遭到起訴。這也是全球首例AI聊天機器人造成的致死命案。 據報導，居住在美國佛羅里達州的14歲少年塞維爾·塞澤三世(Sewell Setzer III)在與Character.AI的聊天機器人進行長時間對話後，於今年2月28日開槍自殺身亡。塞維爾的母親瑪麗亞·加西亞(Maria L. Garcia)近日對Character.AI提起訴訟，指控該公司對塞維爾的死亡負有責任，稱其技術“危險且未經測試”。 Character.AI成立於2021年，總部位於美國加利福尼亞州，由兩位前Google人工智慧研究員Noam Shazeer和Daniel De Freitas共同創立。2023年，Character.AI從投資者那裡籌集了1.5億美元，估值10億美元，使其成為生成式人工智慧熱潮中的最大贏家之一。 Character.AI專注於開發能夠模擬人類對話的AI模型，使使用者可以與生成的虛擬角色進行互動。這些AI角色能夠進行較為複雜的對話，並具備一定的個性和情感反應。平台上的角色可以是虛構人物、歷史名人，甚至是原創的個性化角色，廣泛應用於娛樂、教育等領域。該公司致力於推進AI在對話和互動方面的能力，並為使用者提供一種更自然、個性化的交流體驗。