ChatGPT——AI技術時代的雙刃劍

時間:2023-05-27  發布者:sdszbzz 

當前最前沿的技術莫過于引起廣泛關注的ChatGPT了,雖問世不久但其技術更新之快,與各個軟件集成之多令人震撼不已。隨著衍生出的越來越多的新技術研制而出,AI技術的浪潮正在飛速向我們襲來。
當谷歌的新產品在IO大會上大放異彩的時候,大家正試探著手機里的ChatGPT App,而微軟又向我們拋出了連環的重磅炸彈——Windows的AI集成、貫穿整個操作系統的Copilot助手、可以隨意調用各個功能的插件甚至有50個之多。

01 人人“鋼鐵俠”的時代

琳瑯滿目,應接不暇的AI產品讓每一個普通人都有可能走進“鋼鐵俠”的時代。

可以想象一下:每天早上會有AI床在前一天設置的起床時間將你喚醒,緊接著AI音響會向你匯報你一整天的行程。提前設置好的AI早餐機,會做好根據你的身體所定制的科學營養早餐。用餐完畢后,你的一句語音就能將整個屋子的AI設施全部安排就緒——掃地機器人、洗衣機機器人,均會按照你的規劃去執行當天的任務,而這一切僅僅需要你動一下嘴而已。緊接著是你出行要面臨的駕駛,準確來說應該是乘坐著無人汽車準時來到公司,AI汽車已經提前規劃好行程路線,結合實時路況分析,完全不用擔心擁堵遲到的問題。來到公司,打開電腦,語音輸入今天的工作指令,而你則端著提前就煮好的咖啡靜待結果,并提交修改指令即可。一整天的會議,都會通過AI智能生成相關的記錄與討論結果并形成日程提醒進度。一切都在AI的協助下有條不紊的進行中。

這樣的生活,大家是否對此有些憧憬,相信用不了很久就即將實現,但是寫到這里,我有點隱隱后怕.....

02 AI“雙刃劍”

技術帶來的便利性確實粲然可觀,但是這也是一把雙刃劍,相信大家都看過不少科幻片,相應的劇情耳熟能詳:AI機器人逐漸有了自己的意識,開始反駁人類,不聽指令,甚至加害人類……這時有人會說,哪有這么邪乎,畢竟是人類研發出來的東西,還能修煉成精?當然作為生成式AI工具,ChatGPT擁有強大的數據讀取以及訓練功能,但同時數據安全問題也成了演變過程中,衍生出來的一項突出問題,眾所周知的三星就深受其害。

03 深受其害的企業

一開始,三星是全面禁用ChatGPT的,直到今年三月中旬才開始允許部分部門使用。但沒想到這個決定暴露了ChatGPT的大問題,短短不到20天的時間,就曝出三起泄露敏感信息的事件,其中甚至還包含一些設備測量,產品合格率等機密數據,皆已經被錄入到ChatGPT 的學習資料庫中。

這些數據一旦落入其它用戶甚至競爭對手手里,可以說是非常危險的一個行為。為了改善ChatGPT數據泄露帶來的不良影響,三星也開始著手研發自己的ChatGPT程序作為應對措施。

04 社會層面的影響

數據泄露是一方面,如果要形容一下ChatGPT的性格,那頑劣這個形容詞簡直不要太恰當,不少用戶反應,一些求證的問題會出現東拼西湊、斷章取義的情況,而這些行為,竟然都不是初犯。

三月初的時候,它曾給美國一位法學院教授,莫名其妙的加上了“曾對他人性騷擾”的罪名,并在其它場景下進行了不恰當的引用。這里我個人猜測,有可能ChatGPT在學習法學院教授的一些案例時,對案例中的行為理解時產生偏差,從而將講述的第三者視角總結為第一視角,也就是說某些行業的一些案例會被ChatGPT張冠李戴成主人翁,簡直不要太離譜。

一些不法分子利用工具去做一些違法亂紀的事情,前段時間,東莞的一名男子,為吸引眼球,博取流量,用ChatGPT工具搜集整理了近些年熱點新聞時間,并加以改變上傳社交平臺掙取非法收益。后續結果是他由于誤導讀者,影響網絡環境而被警方抓獲。

05 對人的影響

當然,最危險的還是我們,ChatGPT的推廣,讓越來越多的工作門檻逐漸降低,不少公司引入其之后,本著降本增效的原則,淘汰了不少崗位。有不少創意崗位,都面臨著思路枯竭的那一天,但在ChatGPT面前,創意是可以批量復制的。

因此一旦工作內容大部分是量化的,可復制的內容那ChatGPT 的引入勢必會針對此類崗位,帶來一大波裁員風暴,未來很多崗位,確實有被替代的風險,而且很大。
科技確實是一把雙刃劍,想起小時候,電腦剛普及,網吧剛問世的時候,家里人擔心沉迷猝死,不讓去網吧,不敢買電腦,如今想起來也是一笑。現在新的革命性技術問世,更何嘗不是大家手中的一把“妖刀”呢,用的好,你就是刀,用不好,刀就是你。

信息來源:智邦數智化研究院(微信公眾號)

640.png

版權所有:山東省裝備制造業協會 魯ICP備17016783號