紐約有學校禁止學生使用ChatGPT 聊天機械人惹起爭議

ChatGPT 橫空出世,有傳微軟入股 OpenAI,投資 100 億美元於 ChatGPT。這聊天機械人卻在某些界別引起爭議。當中有美國紐約更有學校限制網絡,禁止學生使用 ChatGPT。到底什麼是 ChatGPT?ChatGPT 應用有什麼爭議?

ChatGPT 應用引起社會界別爭議

以下是對 ChatGPT 應用有爭議聲音的 4 個界別:

1. 教育界

《美聯社》報導,紐約市教育局於 2023 年 1 月 5 日證實,當地公立學校網路和電腦不再開放ChatGPT,學校系統將過濾擋下 ChatGPT 網站。發言人 Jenna Lyle表示:「雖然工具可以提供快速且簡單的答案,但它不能培養人類擁有批判思考和解決問題的能力,無助學術和個人成長。」然而,師生仍可透過自己行動裝置的網路連上ChatGPT 網站。

2. 學術界

美國南卡羅來納州 Furman University 哲學系訪問助理教授 Darren Hudson Hick 於自己 Facebook 發文分享,發現學生用 ChatGPT撰寫論文。他形容,除了學術專業讓他能夠判斷真偽以外,ChatGPT目前還不善於引用。

3. 政治界

計算機和人工智能研究者 David Rozado 指,經過大量測試,讓程式以「非常同意」到「非常不同意」等不同程度回答來政治取向測試,發現 ChatGPT 與左翼自由主義世界觀相符;而在身份政治和種族移民等問題上,立場總體傾向「建制自由主義」(Establishment Liberals)立場,包括反對死刑、支持墮胎、懷疑自由市場、支持性解放、對富人徵稅、企業剝削發展中國家、支持政府補貼、為無業者提供福利等。

4. 網絡安全界

Check Point Research 專家指出並示範,只要輸入簡單命令,聊天機械人便能製作武器化 Excel 文件;同時便於改進現有網絡釣魚電子郵件,令惡意軟件感染能力更高。

Check Point Software 威脅情報組經理 Sergey Shykevich 指出,ChatGPT 有顯著改變網絡威脅的能力麼,現在任何人,包括缺乏資源和沒有編程基礎知識的人,都可以輕易利用 ChatGPT 對網絡安全造成威脅。他又敦促,網絡安全研究人員須在 ChatGPT 等技術成熟前,保持警惕。

OpenAI 回應 ChatGPT爭議

1. OpenAI 望與教育界合作

OpenAI 於一份由人工撰寫的聲明中表明,公司計畫與教育工作者合作,了解人類如何在真實世界與 ChatGPT 互動。公司又指,不希望 ChatGPT 在學校或任何地方被誤用,因此已經開發相關緩解措施,幫助識別由系統產生的文本。

2. OpenAI 研究浮水印辨別生成文字

OpenAI 客座研究員、美國 University of Texas at Austin 電腦科學系教授 Scott Aaronson 於網誌表示,公司正在嘗試於 ChatGPT 生成的文字中,加入類似浮水印(watermark),卻在正常情況下難被發現的秘密訊號,協助人們辨別。

ChatGPT ChatGPT 爭議 Microsoft 微軟 聊天機器人 聊天機械人
ad_20231108_techbites_b
ad_20231005_future_design_b
ad_20231006_kids_trial_class_b
Related Posts:

作為 AI 龍頭,開發 ChatGPT 的 OpenAI 剛剛舉行了首次開發者大會 DevDay,想知道 ChatGPT 還有甚麼最新發展,GPT-4 的威力又會否再度升級?Preface 為大家緊貼 AI 最新發展,讓你一文看盡 DevDay 重點資訊

OpenAI 董事局突然辭退 Sam Altman 的 CEO 職務,雙方其後曾商討 Altman 的回巢協議,但談判破裂告終。Altman 旋即加入 Microsoft,最終卻回歸 OpenAI。Preface 將詳細跟進事件,整合了今次人事變動的懶人包。

The competition for artificial intelligence services has entered a fierce stage, and chatbots such as ChatGPT and Bard have emerged as the times require. How exactly do they work? Why is Prompt Engineering important? Preface disassembles it for you immediately.

人工智能服務的競爭進入白熱化階段,ChatGPT和Bard等聊天機械人應運而生。究竟它們是如何運作的?Prompt Engineering的重要性何在?Preface立即為你拆解。

眾多基於AI語言模型所開發的應用之中,Poe為何能脫穎而出受到大眾的青睞呢?如果你還不知道Poe,並且躍躍欲試,那麼本文亦會提供詳細的教程,讓你了解Poe的優缺點,並知曉如何透過Poe使用並體驗最新的AI語言模型。