又大又粗又猛免费视频久久_国产理论在线播放_久久男人av资源网站免费软件_99国产精品无码

上海計(jì)算機(jī)軟件技術(shù)開發(fā)中心主任蔡立志:AI要避免數(shù)據(jù)投毒(上海市計(jì)算機(jī)軟件技術(shù)開發(fā)中心)

11月9日,長三角一體化數(shù)字文明共建共享——數(shù)字長三角發(fā)展大會在浙江嘉興舉行。本次大會是2023年世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會的3個(gè)永久舉辦地特色活動之一,主題為“共建數(shù)字長三角新格局 共創(chuàng)數(shù)字文明新生態(tài)”。

在大會上,上海計(jì)算機(jī)軟件技術(shù)開發(fā)中心主任蔡立志就“邁向人工智能時(shí)代——打造共建共享共治的數(shù)字長三角”這一話題,通過“烏鎮(zhèn)對話”高峰論壇分享了其觀點(diǎn),“人工智能除了在實(shí)體經(jīng)濟(jì)里去延伸和拓展外,還可以用于自動設(shè)計(jì)芯片,人工智能的發(fā)展會影響到我們生活的方方面面”。

在接受南都記者采訪時(shí)蔡立志表示,人工智能帶來的風(fēng)險(xiǎn)包括數(shù)據(jù)泄露、個(gè)人隱私、數(shù)據(jù)濫用等。除此之外,大模型本身也會帶來巨大的風(fēng)險(xiǎn),“人工智能如果要有生命力,必須是開放的、不斷學(xué)習(xí)的,如果是封閉的,它就不會演化。開放就帶來一個(gè)問題,學(xué)習(xí)的資料要不斷進(jìn)來。有個(gè)詞語叫‘?dāng)?shù)據(jù)投毒’,用好的數(shù)據(jù)訓(xùn)練AI,它就變成一個(gè)好學(xué)生,用一個(gè)糟糕的數(shù)據(jù)訓(xùn)練,它就會變成一個(gè)壞學(xué)生,其倫理道德各方面都會被改變。”

上海計(jì)算機(jī)軟件技術(shù)開發(fā)中心主任蔡立志:AI要避免數(shù)據(jù)投毒(上海市計(jì)算機(jī)軟件技術(shù)開發(fā)中心)

“烏鎮(zhèn)對話”高峰論壇。

對于企業(yè)在使用大模型時(shí)應(yīng)如何規(guī)避風(fēng)險(xiǎn),蔡立志認(rèn)為,要么就不拿數(shù)據(jù)去訓(xùn)練,要么就數(shù)據(jù)脫敏后再訓(xùn)練,“但問題是數(shù)據(jù)處理以后有可能讓數(shù)據(jù)本身蘊(yùn)含的規(guī)律和信息也丟失掉了。所以保護(hù)隱私和數(shù)據(jù)價(jià)值的挖掘永遠(yuǎn)存在矛盾,功能的應(yīng)用性便利性和它的安全性永遠(yuǎn)是一對矛盾體,這個(gè)沒有辦法解決。但無論在什么樣的階段,都不能只兼顧一頭而放棄另外一頭。所以我們國家現(xiàn)在出來了很多法律法規(guī),一方面你提供數(shù)據(jù)的時(shí)候需要注重隱私,另一方面在訓(xùn)練大模型的廠家應(yīng)該遵循一定的倫理道德和社會約束?!?/p>

蔡立志還提到,隨著人工智能的發(fā)展,也有可能讓原本的數(shù)據(jù)脫敏技術(shù)無效,“以前脫敏是給名字中間打上星號,中間若干個(gè)字段給它去掉一個(gè)字段?,F(xiàn)在這種脫敏技術(shù)在大模型面前化為烏有。大模型一計(jì)算,你在這個(gè)地方錯(cuò)了,在另外一個(gè)地方?jīng)]錯(cuò),很容易把脫敏的數(shù)據(jù)還原好。這種數(shù)據(jù)隱私泄露的表現(xiàn)形式,是傳統(tǒng)的信息安全領(lǐng)域里,根本顧及不到的,到目前為止還沒有特別好的辦法來解決這個(gè)問題?!?/p>

蔡立志告訴南都記者,今年上海計(jì)算機(jī)軟件技術(shù)開發(fā)中心還推進(jìn)建成了上海市生成式人工智能質(zhì)量檢驗(yàn)檢測中心(質(zhì)檢中心),“以前做檢測就是先有標(biāo)準(zhǔn)再做落地。現(xiàn)在不行了,新的技術(shù)、新的東西我們必須是先探索、先做檢測,然后再去完善標(biāo)準(zhǔn)?!?

采寫:南都記者 汪陳晨 發(fā)自烏鎮(zhèn)

相關(guān)新聞

聯(lián)系我們
聯(lián)系我們
在線咨詢
分享本頁
返回頂部