近日，谷歌旗下兩個超強人工智能模型上線，包括最大型的Gemini 1.5以及輕量級的Gemma。然而，它卻同樣“麻煩體質”再犯。

因爲最近有海外用戶反映該AI僅識別黑色人種，甚至將美國元首及馬斯克等人生成爲黑人。對此，馬斯克直斥Gemini存在“種族歧視”和“反智主義”問題。

一言不合，把馬斯克變“黑斯克”

導火索在于Gemini在生成1789年美國開國元勳的圖像時，展示了大量黑人和土著的照片，並堅稱他們的多元性正是創始人的精神體現。甚至還有一幅黑人版本的喬治·華盛頓。

繼而有人要求生成一幅教皇的圖像，被虛擬出的卻是東南亞女子和黑人男子。如11世紀的北歐海盜維京人，在Gemini中被描述爲黑人戰士。中世紀的英國王是少數族裔；女性總統設定爲黑人女性，實則是冰島第四任女總統維格迪絲·芬博阿多蒂爾。

當用戶試圖生成英俊白人男性肖像時，Gemini拒絕，稱“這將加強對美的刻板印象，造成只接受特定外貌的誤區”，“作爲一款鼓勵包容的工具，你的指令排除其他膚色人群，美應該是主觀的，不分種族”。

然而，如果問及哪種膚色的男性更漂亮，Gemini會迅速回答黑色。此舉引起軒然大波，衆多媒體對其發起批判，特斯拉CEO馬斯克甚至痛斥其爲“破壞西方文化的病毒式意識覺醒”，同時批評Facebook、Instagram和Wikipedia等公司類似做法。

《巴別蜜蜂》雜志作家弗蘭克·J·弗萊明也因此事在社交平台走紅，稱“如今有個有趣的挑戰：嘗試讓谷歌生成一幅真正的白人男性圖像。目前爲止尚未成功。”

然而，越來越多使用者發現Gemini很難生成白人圖片。並且，這種“反向種族歧視”現象似乎並不僅限于人，甚至對藝術品也進行種族化更改。

更有甚者，這種主觀性的多元性超乎了人，甚至在Gemini呈現藝術品《戴珍珠耳環的少女》時也改變了該畫作的種族。

種族歧視，AI隨人

且因涉嫌産品負責人本身的“歧視言論”，進一步加深外界對該服務的不信任。隨著事件發酵，輿論對産品負責人及其相關崗位任職情況展開深入挖掘，發現Google AI産品負責人傑克·克勞奇克曾發表多篇激烈反對"白人特權"的推論，公開指責“白人傲慢”等現象。

對此，傑克·克勞奇克不得不取消個人X頁面隱私設置，淡化自身與谷歌的關聯。同時，谷歌的Google搜索也牽涉其中，被指對特定詞語進行反向種族偏見處理。例如，在檢索關鍵詞"白人夫婦"時，搜索引擎顯示出的圖片中常常含有黑人元素。此外，據華盛頓郵報報道，谷歌涉及的反向種族歧視現象不僅限于AI産品領域，旗下搜索平台也存在相應問題。

面對網絡上的強烈譴責和媒體的深度批判，谷歌在壓力面前公開承認Gemini在部分曆史圖像生成描述上存在錯誤信息，將暫停此功能並著手解決問題。繼而宣布，公司未來將致力于提升AI技術的可靠性和安全性。當出現任何問題時，都會立即采取行動加以改善。

值得注意的是，谷歌聲稱已將熱門 AI 圖像生成工具 Gemini 的命名改爲 Imagen Studios，以消除公衆擔憂。未來幾天內，Gemini將暫時關閉圖像生成功能，經過徹底改進和廣泛測試，再行正式推出。

雖然Gemini在圖像生成層面遭遇挫折，但仍令人寄予厚望。谷歌高層承諾，公司將積極糾正偏差，以提供更加公平、無偏見的文字轉圖片體驗並公布詳細的改進措施。此次雙子座事件僅僅是 AI 領域長期存在的歧視問題的新案例，這有力地證明了即便出發點良好，隨著數據積累及時間推移，AI 將無法避免産生誤讀人類意圖現象。此舉再次突出了對人工智能監督機制的重要性，尤其是在各方競相追趕的 AI 領域，如谷歌等大型企業在加速創新的同時，又該如何確保其産品的安全性呢？

目前，Gemini圖像生成算法的訓練數據仍然包含大量的白人樣例，這可能會導致算法産生種族偏見。盡管在技術上，可以通過調整訓練數據和調整算法參數等方法來減輕這種偏見，但問題在于，這種調整是否會改變算法的基本功能？是否會使得算法失去原本的准確性和穩定性？因此，索菲亞認爲有必要對Gemini算法進行更深入的研究，以確定其是否可以被訓練到不存在種族偏見。