12月23日消息,冒名隨著科技飛速發(fā)展,人帶AI(人工智能)已深入我們的貨可宏文日常生活,從智能家居到自動(dòng)駕駛,求退從醫(yī)療輔助到教育創(chuàng)新,賠張AI技術(shù)正在改變我們的雷軍生活方式。
然而,都被AI雙刃劍的假冒特性也逐漸顯現(xiàn),其中,冒名深度偽造技術(shù)就帶來了不小的人帶隱患,比如造假名人進(jìn)行直播帶貨。貨可宏文
據(jù)央視新聞介紹,求退今年以來AI深度偽造假冒名人的賠張事件時(shí)有發(fā)生,不久前,雷軍就有人利用AI技術(shù),都被深度偽造了張文宏醫(yī)生的臉部和聲音進(jìn)行直播帶貨。
在視頻中,被合成的人像反復(fù)介紹一種產(chǎn)品,聲音也很像張文宏本人,商品中的蛋白棒產(chǎn)品已經(jīng)售賣了1200多件。
張文宏表示,這個(gè)事情已經(jīng)有幾個(gè)星期了,一開始他也投訴,特別是對AI不是很熟悉的年紀(jì)比較大的市民,他們很容易就會相信。
上海市消保委方面指出,有不法商家通過AI手段去冒用張文宏的形象和聲音,做的假的直播帶貨,這種行為是對消費(fèi)者合法權(quán)的侵害,因?yàn)樗褪且粋€(gè)赤裸裸的欺詐消費(fèi)者行為。
專家稱,AI假冒名人進(jìn)行帶貨這樣的行為,已經(jīng)涉嫌違法,一旦消費(fèi)者信以為真購買了產(chǎn)品,可以要求商家退一賠三。
值得注意的是,用AI制作,假冒名人欺騙網(wǎng)民的現(xiàn)象,張文宏事件并非個(gè)例。
今年國慶期間就有人用小米CEO雷軍的聲音和頭像制作了眾多惡搞視頻。
對于自己的聲音被惡搞的視頻,雷軍表示,最近兩年AI特別火,技術(shù)進(jìn)步特別快,前段時(shí)間在刷視頻的時(shí)候經(jīng)??吹胶芏嗳嗽谕?ldquo;雷軍AI”,就是“雷軍語音包”,有網(wǎng)友跟他投訴,說國慶期間被自己“罵”了整整7天。
“的確讓自己也挺困擾,也挺不舒服的,在這里希望大家不要再玩了,這個(gè)事情不太好,不過還是覺得AI是很好的技術(shù),也非常實(shí)用。”雷軍說。