歡迎訪問(wèn)甘肅政法網(wǎng) 今天是 2024年10月23日 星期三

警惕！人工智能便利背后的安全隱患

來(lái)源：保密觀 責(zé)任編輯：張曦云 發(fā)布時(shí)間：2024-09-30
字號(hào)：A A    顏色：

作為信息社會(huì)的革命性技術(shù)，人工智能（Artificial Intelligence）可謂智能化信息社會(huì)的核心技術(shù)，具有廣泛的應(yīng)用前景。


當(dāng)前，我們看到，隨著AI技術(shù)在人機(jī)對(duì)話、人形機(jī)器人、自動(dòng)駕駛、智能制造等領(lǐng)域的快速推廣和應(yīng)用，相關(guān)安全問(wèn)題也愈加凸顯，亟須予以高度重視。


人機(jī)對(duì)話


以ChatGPT為代表的基于生成式預(yù)訓(xùn)練模型（GPT）的對(duì)話型人工智能能夠模擬人類(lèi)對(duì)話，并應(yīng)用于自動(dòng)化寫(xiě)作、智能客服等多個(gè)領(lǐng)域。隨著自然語(yǔ)言處理技術(shù)的進(jìn)步，ChatGPT在文本生成、內(nèi)容創(chuàng)作等方面展現(xiàn)出強(qiáng)大能力，已成為AI技術(shù)的一個(gè)重要分支。



圖片


安全隱患：由于主要通過(guò)交互問(wèn)答開(kāi)展工作，ChatGPT存儲(chǔ)并處理了大量用戶(hù)數(shù)據(jù)，其中可能包含國(guó)家秘密、敏感信息，一旦被黑客竊取或系統(tǒng)遭受攻擊，數(shù)據(jù)安全將受到嚴(yán)重威脅。此外，ChatGPT還可能被用于生成虛假信息或進(jìn)行社交工程攻擊，攻擊形式包括仿冒電子郵件、虛假新聞等，會(huì)給個(gè)人、企業(yè)和社會(huì)安全帶來(lái)極大隱患。


人形機(jī)器人


人形機(jī)器人是具有人類(lèi)形態(tài)、具備一定程度智能的機(jī)器設(shè)備，能夠模擬人類(lèi)的行為與動(dòng)作，在服務(wù)行業(yè)、醫(yī)療輔助、教育陪伴等領(lǐng)域有著廣泛的應(yīng)用前景。


圖片


安全隱患：人形機(jī)器人在執(zhí)行任務(wù)時(shí)需要獲取和處理大量用戶(hù)數(shù)據(jù)，可能涉及個(gè)人隱私、健康狀況等敏感信息，如果這些數(shù)據(jù)被黑客截獲，會(huì)導(dǎo)致用戶(hù)信息的泄露。此外，技術(shù)上的不成熟也將增加系統(tǒng)遭受攻擊的風(fēng)險(xiǎn)。


自動(dòng)駕駛


當(dāng)前，很多汽車(chē)廠家和互聯(lián)網(wǎng)公司相繼推出自動(dòng)駕駛汽車(chē)以及智能交通系統(tǒng)。可以預(yù)見(jiàn)，在人工智能控制交通的時(shí)代，交通運(yùn)行效率會(huì)得到顯著優(yōu)化。在不遠(yuǎn)的將來(lái)，也許只有賽車(chē)手和發(fā)燒友才會(huì)駕駛汽車(chē)，交通事故則可能被系統(tǒng)事故所替代。


圖片


安全隱患：自動(dòng)駕駛汽車(chē)內(nèi)部往往集成了復(fù)雜的電子控制系統(tǒng)、傳感器網(wǎng)絡(luò)以及車(chē)聯(lián)網(wǎng)通信技術(shù)，黑客可以從智能汽車(chē)端、移動(dòng)應(yīng)用端和云平臺(tái)以及三者交互的通信管道實(shí)施攻擊，目前已經(jīng)出現(xiàn)黑客通過(guò)盜取 App 賬號(hào)密碼來(lái)控制自動(dòng)駕駛汽車(chē)的案例。


智能制造


通過(guò)人工智能技術(shù)對(duì)工業(yè)大數(shù)據(jù)進(jìn)行分析處理，可以有效提高生產(chǎn)效率，比如，Google 將機(jī)器學(xué)習(xí)技術(shù)應(yīng)用于數(shù)據(jù)處理，使用神經(jīng)網(wǎng)絡(luò)控制服務(wù)器等設(shè)備以降低耗電量，提升電力使用效率。


圖片


安全隱患：工業(yè)大數(shù)據(jù)是由生產(chǎn)不同階段的大量零散數(shù)據(jù)組成，數(shù)據(jù)間存在同步問(wèn)題，因此，黑客對(duì)數(shù)據(jù)的任何一點(diǎn)入侵篡改都會(huì)使人工智能計(jì)算產(chǎn)生偏差，從而對(duì)企業(yè)、對(duì)社會(huì)造成巨大損害。


長(zhǎng)遠(yuǎn)展望人工智能在信息社會(huì)的發(fā)展，基于人工智能的社會(huì)精細(xì)化管理將是未來(lái)社會(huì)的基本管理模式，也許未來(lái)會(huì)出現(xiàn)人工智能控制人類(lèi)、威脅人類(lèi)安全的風(fēng)險(xiǎn)隱患。技術(shù)就像一枚硬幣的兩面，發(fā)明一項(xiàng)技術(shù)需要聰明，駕馭一項(xiàng)技術(shù)則需要智慧。面對(duì)人工智能，確實(shí)需要人類(lèi)有足夠的智慧去利用和駕馭，從而在確保安全的前提下便利人類(lèi)生活和社會(huì)發(fā)展。