合作媒體

OpenAI暫停ChatGPT成人模式計畫 倫理與監管挑戰成主因

商傳媒|責任編輯/綜合外電報導

人工智慧巨擘OpenAI近日宣布,已無限期暫停其備受爭議的ChatGPT成人聊天機器人計畫。這項決策主要源於內容審核的複雜性、倫理考量以及難以有效實施可靠的年齡驗證系統等挑戰。

OpenAI指出,公司正將資源與重心重新調整至其核心產品,例如ChatGPT,並優先處理那些具有明確倫理界線與技術可行性的專案。此舉凸顯了AI內容生成在技術發展與社會責任之間所面臨的嚴峻平衡課題,特別是在處理敏感內容時的監管與道德壓力。

與此同時,人工智慧領域的創新仍在快速推進。Google近期推出了Gemini 3.1 Flash Live模型,這款模型整合了語音與視覺輸入,具備多模態功能,並支援超過90種語言。Gemini 3.1以其出色的噪音處理能力、流暢的對話管理及進階的指令遵循能力見稱,潛在應用包括為老年人提供即時協助的照護服務,以及創造更栩栩如生的遊戲非玩家角色(NPC)。Google還透過TurboQuan壓縮技術,將AI模型的記憶體使用量減少高達六倍,且不影響準確性,藉此提升繪圖處理單元(GPU)的效率,有望讓更多組織,尤其是小型機構,能接觸到先進的AI系統。

另一方面,Meta也發布了Tribe Version 2模型,這是一個開源的AI模型,旨在改進對人類大腦反應的預測。Tribe Version 2能分析視覺、聽覺及文本等感官輸入,模擬大腦對刺激的反應,相較於前代產品,其解析度更高,且具備更佳的泛化能力。該模型有望應用於強化AI模型以符合人類認知與行為模式,並支持神經系統疾病的診斷與治療。

OpenAI、Google和Meta這些領先企業的最新進展,共同展示了人工智慧技術的飛速演變及其變革各行各業的巨大潛力。然而,OpenAI暫停成人模式的案例,亦提醒業界在追求創新之際,必須持續審慎面對倫理規範與內容管理的挑戰。