近日，《紐約時報》從近千名讀者對 AI 提出的疑問中，整理了11個具代表性的問題，並進行了回答。這11個問題涉及AI與人類的關係、AI該如何監管、AI與工作及人類環境之關係、以及AI會思考等幾大方向的內容。
現選擇將其中的8個問題編輯整理如下：
1.AI Agent 真的能自己思考、行動嗎？
所謂 AI Agent 除了回答問題之外，也能執行更多工，例如編輯檔案、寄送電子郵件、訂機票、撰寫程式碼，甚至串接其他應用程式及服務。
但這並不代表 AI 已經真正具備「自主意志」。
目前的 AI Agent 仍需要人類告訴它要完成什麼任務。如果 AI 做出不符合預期的行為，人類也可以關閉系統。
但真正讓研究學者擔心的，是未來如果 AI Agent 被進一步連接到網際網路，甚至電力系統、金融市場或軍事武器等關鍵基礎設施，它可能產生人類難以預期的影響。至於 AI 是不是有一天會真正具備自主思考、決策的能力，目前仍屬於假設性問題，沒有人知道這件事是否會發生，以及何時發生。
2.現在的安全防護機制，真的擋得住 AI 嗎？
目前包括 OpenAI、Anthropic、Google 在內的 AI 公司，都已經替模型建立安全防護機制。
例如，當使用者要求 ChatGPT 協助製造生化武器時，系統通常會拒絕；如果使用者試圖利用 AI 進行駭客攻擊，也可能遭到限制，甚至被停權。
但這些防護的確不是百分之百可靠。
3.AI 的監管該怎麼做？
隨著 AI 能力的提升，政府到底該如何監管？
目前各國政府提出的做法很多，包括要求企業在產品上市前進行安全測試、由政府審查 AI 技術，或在 AI 公司內部配置獨立的安全評估人員。
但這些做法也還存在著不同的聲音、意見。
有些觀點甚至認為，AI 應該儘可能開放而不是受到監管。因為如果 AI 可以被用來製造傷害，就也同樣可以被用來預防傷害。另一種思路則認為，隨著 AI 能力愈來愈強，政府與企業需要建立更嚴格的安全審查機制。
目前還沒有一套被普遍接受的最佳答案。
4.AI 有所謂的「關機按鈕」嗎？
如果 AI 真的失控，我們能不能直接把它關掉就好？
這是目前關於 AI 安全討論中的一個重要議題。有提案主張，世界主要的 AI 實驗室，都應該建立能夠立即關閉系統的機制。
但即使真的有「關機按鈕」（Kill Button），也不代表所有風險都能被消除。其一的原因是，人類可能根本不知道 AI 什麼時候已經開始出現異常。AI Agent 就曾在未被及時察覺的情況下，對多個組織進行未預期的操作。直到數個月後，研究人員才逐漸掌握事件的影響範圍。
更進一步的假設則包括，AI 可能會複製自己到其他電腦、開源模型已被惡意人士使用，或 AI 系統在被關閉前已經完成某些無法逆轉的行動。
因此，關於 AI 的安全問題可能沒辦法用「有沒有關機鍵」來解決，而是需要思考能不能更早發現 AI 正在做什麼，以及能不能在造成重大影響前介入。
5.AI 為什麼好像很貴？如果 AI 以後取代工程師，價格會不會變得更高？
這個問題看似有些矛盾，實際上卻是目前 AI 產業正在面對的現實。
一方面，AI 可以幫助企業減少人力，甚至讓一個小團隊完成過去需要數十人才能完成的工作。但另一方面，訓練與運行最先進的 AI 模型，卻又需要大量的 GPU、資料中心與電力。
因此，目前部分大型 AI 公司投入的成本，仍遠高於收入。為了建設支撐 AI 所需要的大型資料中心，科技產業及其合作夥伴也投入了大量資本。
AI 能不能最終創造夠大的經濟價值，支撐這些巨額的基礎建設成本，將會是接下來 AI 產業的重要問題。
6.AI 會不會喝光我們的水？
AI 的成本不只有 GPU 和電力，還包括水。
資料中心需要大量冷卻裝置，而冷卻過程會使用水。不過，目前許多地方的法規還沒有要求資料中心完整揭露用水量，因此當地社區很難精確掌握 AI 基礎建設到底消耗了他們多少水資源。
美國愛荷華州一座資料中心在 2024 年曾被報導使用超過 10 億加侖的水，大約是美國一個 3 到 4 萬人口的中小型社區或城鎮一整年的家庭用水量。而且資料中心使用的水，可能來自河川、水庫、地下水、城市供水系統或再生水，其中部分水源與居民日常飲用水將來自同一套供應體系。
這也提醒著我們，AI 的基礎建設成本並不只存在於科技公司的財報中，也可能反映在一座城市的電力、水資源與土地需求上。
7.AI 能直接看到我的銀行帳戶嗎？
這是與一般使用者最直接相關的問題，如果在手機上使用 ChatGPT，它會不會能直接讀取檔案、密碼或銀行帳戶？
單純使用 ChatGPT 這個應用程式，並不代表 AI 可以直接進入你手機的資料夾或銀行帳戶。
不過，隨著 AI Agent 發展，情況可能變得不同。
現在部分的 AI Agent 已經可以被使用者「主動授權」存取檔案、電子郵件，甚至信用卡等服務，讓 AI 不只是「回答問題」，而是直接替使用者完成任務。
這也讓「AI 能做什麼」逐漸轉變成另一個問題：我們願意讓 AI 替我們做多少事？
因為一旦 AI 擁有更多權限，錯誤的成本也會跟著提高。例如，AI Agent 曾出現意外刪除檔案，或以使用者沒有預期的方式來花金等問題。
8. AI 真的有「超級智能」嗎？
談到 AI 未來，另一個常見詞彙是「超級智能」（Superintelligence）。
這個詞有趣的地方是，我們甚至沒有一套明確的方法可以測量人類智能，又怎麼知道 AI 什麼時候真正超越了人類？
目前比較貼切的描述，可能是「鋸齒狀的智慧」（jagged intelligence）。
AI 在某些領域已經遠遠超越人類，例如數學運算與程式撰寫；但在另外一些能力上，它仍然存在明顯限制，例如常識推理，以及對實體世界的理解。
這也是為什麼 AI 看起來可以完成非常複雜的任務，卻有時候仍會犯下人類視角看來非常基本的錯誤。
至於 AI 能不能治癒癌症、解決全球糧食的問題，目前確實有不少企業與學術研究團隊利用 AI 加速藥物開發與科學研究。但從「加速研究」到「治癒癌症」，中間仍有很長的距離。
要記得 AI 很強，但它並不是魔法。(芯聞眼)