紐約有學校禁止學生使用ChatGPT 聊天機械人惹起爭議

ChatGPT 橫空出世,有傳微軟入股 OpenAI,投資 100 億美元於 ChatGPT。這聊天機械人卻在某些界別引起爭議。當中有美國紐約更有學校限制網絡,禁止學生使用 ChatGPT。到底什麼是 ChatGPT?ChatGPT 應用有什麼爭議?

ChatGPT 應用引起社會界別爭議

以下是對 ChatGPT 應用有爭議聲音的 4 個界別:

1. 教育界

《美聯社》報導,紐約市教育局於 2023 年 1 月 5 日證實,當地公立學校網路和電腦不再開放ChatGPT,學校系統將過濾擋下 ChatGPT 網站。發言人 Jenna Lyle表示:「雖然工具可以提供快速且簡單的答案,但它不能培養人類擁有批判思考和解決問題的能力,無助學術和個人成長。」然而,師生仍可透過自己行動裝置的網路連上ChatGPT 網站。

2. 學術界

美國南卡羅來納州 Furman University 哲學系訪問助理教授 Darren Hudson Hick 於自己 Facebook 發文分享,發現學生用 ChatGPT撰寫論文。他形容,除了學術專業讓他能夠判斷真偽以外,ChatGPT目前還不善於引用。

3. 政治界

計算機和人工智能研究者 David Rozado 指,經過大量測試,讓程式以「非常同意」到「非常不同意」等不同程度回答來政治取向測試,發現 ChatGPT 與左翼自由主義世界觀相符;而在身份政治和種族移民等問題上,立場總體傾向「建制自由主義」(Establishment Liberals)立場,包括反對死刑、支持墮胎、懷疑自由市場、支持性解放、對富人徵稅、企業剝削發展中國家、支持政府補貼、為無業者提供福利等。

4. 網絡安全界

Check Point Research 專家指出並示範,只要輸入簡單命令,聊天機械人便能製作武器化 Excel 文件;同時便於改進現有網絡釣魚電子郵件,令惡意軟件感染能力更高。

Check Point Software 威脅情報組經理 Sergey Shykevich 指出,ChatGPT 有顯著改變網絡威脅的能力麼,現在任何人,包括缺乏資源和沒有編程基礎知識的人,都可以輕易利用 ChatGPT 對網絡安全造成威脅。他又敦促,網絡安全研究人員須在 ChatGPT 等技術成熟前,保持警惕。

OpenAI 回應 ChatGPT爭議

1. OpenAI 望與教育界合作

OpenAI 於一份由人工撰寫的聲明中表明,公司計畫與教育工作者合作,了解人類如何在真實世界與 ChatGPT 互動。公司又指,不希望 ChatGPT 在學校或任何地方被誤用,因此已經開發相關緩解措施,幫助識別由系統產生的文本。

2. OpenAI 研究浮水印辨別生成文字

OpenAI 客座研究員、美國 University of Texas at Austin 電腦科學系教授 Scott Aaronson 於網誌表示,公司正在嘗試於 ChatGPT 生成的文字中,加入類似浮水印(watermark),卻在正常情況下難被發現的秘密訊號,協助人們辨別。

ChatGPT ChatGPT 爭議 Microsoft 微軟 聊天機器人 聊天機械人
Related Posts:

ChatGPT是什麼?ChatGPT 香港能用嗎?ChatGPT 支援中文介面?ChatGPT怎麼用?Preface馬上一文介紹聊天機械人ChatGPT。

眾多基於AI語言模型所開發的應用之中,Poe為何能脫穎而出受到大眾的青睞呢?如果你還不知道Poe,並且躍躍欲試,那麼本文亦會提供詳細的教程,讓你了解Poe的優缺點,並知曉如何透過Poe使用並體驗最新的AI語言模型。

了解在香港使用ChatGPT的方法及與一般Chatbot的區別。從GPT1.0至GPT5.0,理解ChatGPT背後的生成式語言模型。發掘創意應用,從學習新語言到虛擬補習,甚至心理輔導。解答ChatGPT香港用戶疑問,包括信用卡升級問題和ChatGPT API的使用。

了解AI繪圖的基本原理,以及幾個較為知名的AI繪圖工具,包括Midjourney、DALL·E 2和Stable Diffusion。介紹用家如何使用繪圖工具並通過不同的指令來實現繪圖創作。詳細介紹了這五個AI繪圖工具的特點和價格、提供Midjourney的使用教學及如何在Discord上使用該工具進行AI繪圖。

The competition for artificial intelligence services has entered a fierce stage, and chatbots such as ChatGPT and Bard have emerged as the times require. How exactly do they work? Why is Prompt Engineering important? Preface disassembles it for you immediately.