AI 人工智慧準備統治全世界 智慧新世代 2024 年 08 月 06 日

偷用 ChatGPT 寫作業、寫論文的人當心了！OpenAI 已開發檢測準確率達 99.9% 的工具

偷用 ChatGPT 寫作業、寫論文的人當心了！OpenAI 已開發檢測準確率達 99.9% 的工具 - 阿祥的網路筆記本

近年來，人工智能的快速發展引發了社會各界對其潛在影響的深切關注，特別是在教育領域，生成式 AI 工具如 OpenAI 的 ChatGPT 和 Google 的 Gemini，已經開始在學術和日常生活中扮演越來越重要的角色。也正因如此，隨著這些技術的普及，也帶來了新的挑戰與爭議，尤其是在學術誠信和技術濫用的議題上，像是已經有不少老師發現到，有學生開始使用 AI 代寫作業，甚至研究生使用 AI 協助代筆論文的案例發生。

你可能會有興趣

而這樣的狀況，OpenAI 也已經發現到，而且已經有相應的工具可以「反制」了。

AI 文本檢測工具的開發與應用

在 2022 年底推出的 ChatGPT，雖然受到廣泛歡迎，但也引起了教育界的擔憂。據外媒 Android Authority 引述《華盛頓郵報》報導指出，OpenAI 現已研發出一種能夠以 99.9% 準確率檢測 ChatGPT 內容的 AI 文本檢測工具。這項技術利用系統預測句子中的下一個單詞或短語（即「Token（代幣、令牌）」），並通過微調這些 Token 的方式，為文本添加看不到的浮水印，雖然這對人眼來說無法偵測，但對應的工具可以準確檢測到這些水印，從而確定是否使用了 AI 工具進行文本創作。

OpenAI 的 ChatGPT
OpenAI 的 ChatGPT（圖片來源：Android Authority）

這項技術引發擔憂：使用 ChatGPT 的人被貼標籤、妖魔化？

OpenAI 內部就是否推出這一技術展開了深入討論。一方面，這樣的工具可能會排斥部分 ChatGPT 用戶群體，同時也會滿足對透明度的承諾。然而，公司內部一些關鍵員工認為，這項技術將帶來眾多好處，如增強平台的誠信性和防止不當使用。

AI 文本檢測工具未來仍有挑戰

儘管 AI 文本檢測工具帶來了新的保護機制，但同時也存在潛在的技術挑戰和應對策略。例如，由 AI 創建的水印可能通過簡單的技術手段輕鬆刪除，這種情況下工具的有效性將受到質疑。此外，工具的普及和接受程度也將影響其在實際應用中的效果和長期穩定性。

總結來說，OpenAI 正在積極探索如何平衡技術創新與社會責任，以確保 AI 技術的良好使用。未來，這家公司將面臨著是否推出文本檢測工具的重大決策，這將不僅影響其自身發展，也將深刻影響教育工作者和學生在數位時代的學習和創作方式。

你可能會有興趣

相關連結：

OpenAI has developed a tool to detect ChatGPT content

歷史上的這一天，我還寫了…

阿祥，本名秦庭祥（Axiang Chin），是一個專注於3C領域、尤其是行動通訊領域的部落客，自2004年10月開始經營部落格超過20年之久，長期關注3C產品資訊與應用－尤其聚焦於智慧型行動裝置、雲端服務應用、App評析與行銷、以及遊戲評測與產業趨勢…等議題。阿祥同時也是3C布政司共同創辦人，提供社群行銷、教學與體驗活動規劃…等服務，並曾擔任元智大學資訊傳播學系兼任講師、國立空中大學管理與資訊學系學科委員，並於三星學園長期擔任手機課程講師，也受邀前往多間大學、政府機關擔任講師，分享雲端與行動工具應用心得。 Google

你也許會喜歡

[Unbox] 完全零耗材！博士韋爾 Bosswell 電離式空氣清淨機完整開箱評測！ - 阿祥的網路筆記本

[Unbox] 完全零耗材！博士韋爾 Bosswell 電離式空氣清淨機完整開箱評測！

2019 年 01 月 04 日
[Mobile] 小米新北專賣店落腳中和環球購物中心！多款商品現折千元、熱門商品現貨供應中！ - 阿祥的網路筆記本

[Mobile] 小米新北專賣店落腳中和環球購物中心！多款商品現折千元、熱門商品現貨供應中！

2018 年 04 月 14 日
完美人像信手拈來！OPPO Reno11 系列集結自然美學與黃金焦段於一身！ - 阿祥的網路筆記本

完美人像信手拈來！OPPO Reno11 系列集結自然美學與黃金焦段於一身！

2024 年 01 月 16 日

無留言

發表留言