AI技术何时会失控？

据小易智创xiaoyizc.com（不可错过的AI创业项目）观察：随着生成式AI技术的飞速发展，伪造信息的能力已经达到了骇人的地步，令人堪忧。近日，知名港星黄百鸣在社交媒体上发声，揭露了某品牌利用AI技术盗用他过往电影画面，虚构声音进行代言的恶劣行为。他强调，这种行为不仅欺诈，更是对公众的误导，旨在从中谋取不义之利。

名人的形象不仅被用于广告代言，还被恶意使用于社会评论中。国庆节期间，小米董事长雷军的形象被AI伪造，并在短视频中就交通拥堵和调休等问题发表看法，引起公众的不满。雷军对此表示愤怒，直言这种行为让人感到无奈。

特斯拉的创始人埃隆·马斯克也未能幸免，其形象被篡改为向公众推荐某投资理财产品的视频，引发了一系列投资者的误判，最终导致了损失惨重。

这类假内容的精妙之处在于其几乎无懈可击的真实感，令许多网民感到困惑，扰乱了社会舆论，造成了新的社会问题。

自2023年秋季以来，各类短视频平台开始流行AI翻译视频，制作者通过截取原视频，利用AI技术将音频内容翻译成外语，同时保留音色，并通过人像建模技术使口型与外语内容相匹配，令观众难以分辨真伪。例如，郭德纲似乎掌握了新的“技能包”，用英语讲述相声的画面让人忍俊不禁，但实际上，他的原话却大相径庭。这种现象几乎涵盖了所有语言类节目，成为了可随意改编的对象。

在这个AI技术日益渗透的时代，未来如何规避这类问题，将是社会各界亟待解决的重要课题。让我们共同期待一个更为安全、透明的科技环境！