科學家們在 2023 年 2 月中旬於德國慕尼黑舉行的機器學習技術和自動駕駛汽車國際科學會議上討論了人工智能的應用及其風險和危害 – 照片：PHUONG NGUYEN
ChatGPT（一種以自然語言與人類交流的人工智能聊天機器人）誕生於人工智能（AI）應用風潮蔓延之際，開創了人機對話的時代，但也開始將人類置於無法控制的威脅境地。
2023 年 1 月上旬，著名的賓夕法尼亞大學警告說，ChatGPT 已被學生用來通過沃頓商學院 MBA 課程（世界排名第一的工商管理課程）的期末考試。
不久之後，明尼蘇達大學法學院的四次考試和以嚴格著稱的美國醫療執照考試的一部分也提醒機器人注意複雜的欺詐行為。
Lo ChatGPT“助長”學術造假
事實引起了同學們的擔憂，同學們會把ChatGPT當做“學習”和“寫作”的工具。 因此，禁止或想方設法限制在教育和科研機構中使用 ChatGPT 等 AI 聊天機器人的運動正在全球範圍內興起。
據 Sarkarilist 網站統計（更新至 3 月 30 日），已有 36 個國家禁止使用該工具，包括中國、古巴、老撾、朝鮮、俄羅斯、烏克蘭、委內瑞拉和也門。
幾乎2021年及之前的自然科學知識題和社會經濟論文（2021年是系統的第一次更新日期），ChatGPT都可以用多種語言進行相當有說服力的回答。 因此，它對全世界的學生、學生和大學都極具吸引力。
然而，德國巴登符騰堡州教育與培訓協會 (VBE) 數字事務專家 Oliver Hintzen 博士表示，目前還沒有真正可靠和高效的軟件來識別 ChatGPT 編寫的文本。
這位專家表示，現在有很多AI生成的稿件檢測軟件，比如Turnitin、PlagScan、Copyleaks或者GPT-2 Output。 然而，儘管聲稱准確率高達 97%，但在實踐中，如果文章被另一個 AI 應用程序稍作修改或重寫，檢測仍然會降低。
這一缺點讓人懷疑，不僅是學生，想要從中獲利的個人和組織也會利用 ChatGPT 通過混淆信息來撰寫一系列“虛假”的科學報告。
結果，不僅國際機器學習會議“ICML”（世界領先的機器學習和人工智能會議之一）禁止使用 ChatGPT 等應用程序撰寫文章，而且一系列知名科學期刊和出版商也禁止使用 ChatGPT 等應用程序撰寫文章如 Nature、Springer Nature、Science……都認為使用由 ChatGPT 和其他類似工具創建的段落、圖形、圖像是嚴格的科學不端行為。
青少年智力侵蝕風險
2023 年 1 月初，在線雜誌 Intelligent 對 1,000 名大學生進行的一項調查發現，30% 的人曾使用 ChatGPT 編寫作業。 這是一個驚人的學生數量和學生對這個工具的依賴，而這個工具才在一個多月前才發布。
很早就意識到 ChatGPT 對學生學習的負面影響，紐約市教育局宣布禁止在高中設備和網絡上使用 ChatGPT。
“雖然 ChatGPT 可以提供快速簡單的答案，但它不會培養批判性思維和解決問題的能力，”該部門發言人珍娜萊爾說，這對於在學校和生活中取得成功至關重要。
紐約市的強硬行動是第一個打擊，表明 AI 聊天機器人有可能在全美高中被禁止。
雖然 ChatGPT 禁令僅在美國以及澳大利亞、印度和法國的高中流行，但這個聊天機器人甚至在大學系統中也被禁止。
雖然仍然贊成在家庭論文中鼓勵獨立和創造性研究思維的教學方法，但面對使用 ChatGPT “這樣做”的風險，許多世界上最負盛名的大學，如 RV 大學（印度）， Sciences Institut d’Etudes Politiques Po（法國）、圖賓根大學（德國）、香港大學……是禁止 ChatGPT 和減少作業的先驅，取而代之的是課堂筆試和 1990 年代傳統的口試和筆試和之前。
2023 年 1 月底，德國北部一所學校八年級學生的政治經濟學考試中包含了關於 ChatGPT 的一道題 – 照片：HA LAI
禁止是解決辦法？
同意許多機器學習和人工智能專家的觀點，IEEE 科學技術協會高級成員兼松下歐洲 ADAS（自動駕駛汽車輔助系統）部門執行董事 Nguyen Van Duong 博士表示：“禁止使用人工智能教育和科學產品不是長久之計，因為人工智能的誕生是必然的，開源是難以控制的”。
“現在是全球教育和科學部門尋找改進和創新方法以適應人工智能正式出現的時代的時候了，”他指出。
Nguyen Van Duong 博士說：“目前，他是高級成員的 IEEE 已經同意，重要的是快速分析聊天機器人的局限性和危險性，以便為在科學中使用人工智能和適當的處罰提供指導。在同時，IEEE 也在快速開發人工智能生成的產品檢測工具。”
他還補充說：“在各級教育中，應該有計劃將關於數字化、人工智能或算法的不同主題納入教學，讓學生充分意識到過度濫用人工智能、缺乏控制的不利影響。
因此，教學人員是必須就此工具的功能和局限性以及如何引導學生使用 AI 實現學習和研究的有效目標進行培訓和指導的力量。
意大利禁止 ChatGPT 以保護數據隱私
本週，意大利以數據隱私問題為由，成為第一個暫時禁止使用 ChatGPT 工具的西方國家。
根據意大利數據保護局的說法，創建 ChatGPT 的公司 OpenAI 沒有法律依據來批量收集和存儲個人數據以“訓練”其算法。 . 此外，據法新社報導，該機構還擔心信息收集的透明度，並已展開調查。
據意大利稱，這個聊天機器人給出錯誤答案的事實表明數據沒有得到正確處理。 不僅如此，它還給孩子們“完全不恰當的回應”。 OpenAI 有 20 天的時間來解決意大利的擔憂，否則將面臨近 2200 萬美元或年收入 4% 的罰款。
ChatGPT 自成立以來，在世界範圍內引起了包括支持和批評、禁令在內的熱潮。 領導人和技術專家最近簽署了一封公開信，呼籲“立即”停止至少六個月的急於開發人工智能和可能對人類、社會和人類構成許多風險的“失控”實驗。
這封信雖然沒有呼籲停止人工智能開發活動，但敦促公司停止對 OpenAI 的 GPT-4 等下一代人工智能工具的培訓。
陳芳
使用 ChatGPT，記住 Clippy
“令人髮指的謙虛咖啡愛好者。食品專家。熱情的麻煩製造者。邪惡的酒精專家。”
