自 Elon Musk 收購 Twitter 成功後,一直動作多多。Elon Musk在四月收購推特時,曾表示認真考慮開放人工智能演算法原始碼,把言論自由精神帶到 Twitter 作首要任務,以及把致力消除平台中帶偏頗的政治宣傳。如今他又在玩什麼把戲?

Elon Musk出爾反爾 大幅度裁員

Elon Musk在近日一直發炮批評外間的言論和批評影響了Twitter的廣告收入,而為了縮減開支,他更大幅度裁員。而其中更包括致力把人工智能演算變更透明更公開的研發團隊解散,外間紛紛均為此感到婉悉。然而,此舉更無疑是與他在四月所提及的改革原意背道而馳,令人不解。

「是的,團隊沒了。研究和推動算法透明度和算法選擇的團隊。研究算法放大的團隊。發明和構建符合道德的 AI 工具和方法的團隊。一切都過去了。」

Yep, the team is gone. The team that was researching and pushing for algorithmic transparency and algorithmic choice. The team that was studying algorithmic amplification. The team that was inventing and building ethical AI tooling and methodologies. All that is gone.

Joan Deitchman, Former Sr Eng Manager, Twitter, ML Ethics, Transparency. Tweet

人工智能演算法也有漏洞?

其實人工智能演算法是存在著一定的漏動,因為人工智能算法是透過收集在網絡社會中的數據作基礎再進行分析和操作,當中一定會存在著一些普遍社會中的觀念和偏見,並不持平。

2018年起,Twitter啟用了基於顯著性(saliency)原理的演算法,專門用來辨識圖片中最重要或最具吸引力的部分,而Twitter在近年也舉辦了「演算法賞金比賽」,目的是透過比賽找出演算法中的漏洞,得獎者瑞士洛桑理工學院(EPFL)的研究生波哥東.庫里尼奇(Bogdan Kulynych)研究指出,自動影像裁切帶有偏見,傾向選取年輕、瘦長、淺膚色的面孔,演算法有種族歧視的傾向。

「在後來的一項研究中,Twitter 自己的研究人員發現只有非常輕微的偏愛白人面孔和女性面孔的偏見。」

In a later study, however, Twitter’s own researchers found only a very mild bias in favour of white faces, and of women’s faces.

Alex Hern, Student proves Twitter algorithm ‘bias’ toward lighter, slimmer, younger faces

公開演算法的隱憂

「人工智能演算法」一個平台中最核心的機密,如果把演算法公開了是不是 就能真正把 Twitter 變得更有言論自由和達至一個無政治狀態呢?其實,把演算法公開了是會為平台帶來很大得風險的。

1. 無法掌握發佈內容

演算法可有效地為平台把關和規限內容,判定哪些資訊該發出。公開演算法會使 Content Farm 的經營者可狙擊演算法漏洞,把他們的內容傳播得到處都是;換句話,公開演算法可使到一些不懷好意、不法之徒利用來分佈一些不實、危害社會的資訊。

2. 內容偏頗

演算法最重要的目的是透過大數據分析用家喜好,再推薦相關內容吸引用戶持續使用平台,但公開演算法,讓用戶只看到自身所喜愛的內容,或者是加強所謂同溫層效應,只要跟自己不合的意見,就會忽略或抗拒。

由以些兩點所看來,都跟 Elon Musk 在四月所提及的 透過公開 Twitter 演算法把 Twitter 達致一個言論自由及無政治狀態,有很大的距離。而現在,他更把相關的部門炒了魷魚,各位讀者可猜一猜他的部署是什麼呢?

延伸:Google也曾因演算法出事?

提到公開演算法有機會被 Content Farm 或不法之徒利用來散播義社會不利不實之事,影響社會秩序,而事實上 Google 也曾發生類似事件。

從以前 Google 開始使用演算法過濾搜尋結果開始,Content Farm 與 Google 的廣告商就一直在研究如何利用演算法來增加曝光。最早 Google 用的是搜尋字眼次數演算法,文章加入愈多人搜尋的字眼,就有愈高的曝光度。結果,Content Farm 或不法之徒就利用此法來增加自己文章的傳播率,造成了混亂,最後 Google 就沒有再發佈過演算法的相關重要資訊。

Total
0
Shares
Related Posts