11月9日，長三角一體化數(shù)字文明共建共享——數(shù)字長三角發(fā)展大會在浙江嘉興舉行。本次大會是2023年世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會的3個(gè)永久舉辦地特色活動之一，主題為“共建數(shù)字長三角新格局 共創(chuàng)數(shù)字文明新生態(tài)”。

在大會上，上海計(jì)算機(jī)軟件技術(shù)開發(fā)中心主任蔡立志就“邁向人工智能時(shí)代——打造共建共享共治的數(shù)字長三角”這一話題，通過“烏鎮(zhèn)對話”高峰論壇分享了其觀點(diǎn)，“人工智能除了在實(shí)體經(jīng)濟(jì)里去延伸和拓展外，還可以用于自動設(shè)計(jì)芯片，人工智能的發(fā)展會影響到我們生活的方方面面”。

在接受南都記者采訪時(shí)蔡立志表示，人工智能帶來的風(fēng)險(xiǎn)包括數(shù)據(jù)泄露、個(gè)人隱私、數(shù)據(jù)濫用等。除此之外，大模型本身也會帶來巨大的風(fēng)險(xiǎn)，“人工智能如果要有生命力，必須是開放的、不斷學(xué)習(xí)的，如果是封閉的，它就不會演化。開放就帶來一個(gè)問題，學(xué)習(xí)的資料要不斷進(jìn)來。有個(gè)詞語叫‘?dāng)?shù)據(jù)投毒’，用好的數(shù)據(jù)訓(xùn)練AI，它就變成一個(gè)好學(xué)生，用一個(gè)糟糕的數(shù)據(jù)訓(xùn)練，它就會變成一個(gè)壞學(xué)生，其倫理道德各方面都會被改變。”

“烏鎮(zhèn)對話”高峰論壇。

對于企業(yè)在使用大模型時(shí)應(yīng)如何規(guī)避風(fēng)險(xiǎn)，蔡立志認(rèn)為，要么就不拿數(shù)據(jù)去訓(xùn)練，要么就數(shù)據(jù)脫敏后再訓(xùn)練，“但問題是數(shù)據(jù)處理以后有可能讓數(shù)據(jù)本身蘊(yùn)含的規(guī)律和信息也丟失掉了。所以保護(hù)隱私和數(shù)據(jù)價(jià)值的挖掘永遠(yuǎn)存在矛盾，功能的應(yīng)用性便利性和它的安全性永遠(yuǎn)是一對矛盾體，這個(gè)沒有辦法解決。但無論在什么樣的階段，都不能只兼顧一頭而放棄另外一頭。所以我們國家現(xiàn)在出來了很多法律法規(guī)，一方面你提供數(shù)據(jù)的時(shí)候需要注重隱私，另一方面在訓(xùn)練大模型的廠家應(yīng)該遵循一定的倫理道德和社會約束?！?/p>

蔡立志還提到，隨著人工智能的發(fā)展，也有可能讓原本的數(shù)據(jù)脫敏技術(shù)無效，“以前脫敏是給名字中間打上星號，中間若干個(gè)字段給它去掉一個(gè)字段?，F(xiàn)在這種脫敏技術(shù)在大模型面前化為烏有。大模型一計(jì)算，你在這個(gè)地方錯(cuò)了，在另外一個(gè)地方?jīng)]錯(cuò)，很容易把脫敏的數(shù)據(jù)還原好。這種數(shù)據(jù)隱私泄露的表現(xiàn)形式，是傳統(tǒng)的信息安全領(lǐng)域里，根本顧及不到的，到目前為止還沒有特別好的辦法來解決這個(gè)問題?！?/p>

蔡立志告訴南都記者，今年上海計(jì)算機(jī)軟件技術(shù)開發(fā)中心還推進(jìn)建成了上海市生成式人工智能質(zhì)量檢驗(yàn)檢測中心（質(zhì)檢中心），“以前做檢測就是先有標(biāo)準(zhǔn)再做落地。現(xiàn)在不行了，新的技術(shù)、新的東西我們必須是先探索、先做檢測，然后再去完善標(biāo)準(zhǔn)?！?

采寫：南都記者 汪陳晨 發(fā)自烏鎮(zhèn)