假新闻视频和其他在互联网上滥用生成式人工智能和人工智能的行为正在引起轰动。
例如，日本首相岸田文雄的假视频在日本引起了相当大的争议。在视频中，首相似乎说了一句不得体的话。
这种假新闻视频的泛滥可能会扰乱社会。他们不能仅仅被认为是恶作剧。政府应立即采取行动，防止误导公众的虚假信息的传播。
为了制作岸田文雄首相的假视频，制作者首先使用了日本电视台的真实新闻报道片段。然后，人工智能学会了如何在说猥亵的话时听起来像首相的声音。然后他们将假新闻片段发布在X(以前的Twitter)和其他平台上，在那里它被观看了数百万次。
另一个所谓的日本电视新闻节目背后还隐藏着一段假视频。在那个案例中，生成式人工智能视频模仿了一位真实的女播音员，敦促人们在一家投资信息网站上注册。这引起了轩然大波，该公司不得不呼吁观众要小心。
利用生成式人工智能制作的虚假图像和视频被称为“深度伪造”，可以通过在线应用程序轻松制作。
在假岸田文雄视频的案例中，它的质量非常差，可以立即识别出是假的。但人工智能技术正在迅速发展。事实上，它的变化如此之快，以至于有人担心假视频很快就会与真品难以区分。
在海外，生成式人工智能视频已经造成了巨大的危害。2023年5月，纽约证券交易所道琼斯工业平均指数因为一段人工智能视频而短暂暴跌。在那次事件中，它在网上传播了虚假图像，称美国国防部附近发生了爆炸。
许多人工智能生成的图像和其他可疑内容也在加沙的巴勒斯坦领土上流传。在这个例子中，以色列军队和伊斯兰原教旨主义组织哈马斯之间的战斗仍在继续。
在这种背景下，欧盟正在采取行动，对深度造假进行监管。
与此同时，日本政府也成立了人工智能战略委员会，正在制定指导方针。尽管如此，它还没有开始监管人工智能，而是优先考虑该领域的技术创新。
尽管监管可能与言论自由相冲突，但深度造假不同于单纯的讽刺和戏仿。如果它们被允许在社会上流通，人们将无法根据正常的信息做出决定。在这种情况下，民主的基础可能受到破坏。
这是一个将社会置于危险之中的问题。因此，迫切需要解决这一问题的蔓延，包括通过监管。
公众也需要提高警惕。我们应该担心，外国行为者可能会散布虚假信息，扰乱日本社会，比如在选举期间。网络素养是必要的，以避免误入歧途的深度假。
(请阅读这篇日文社论。)
作者:《产经新闻》编委会
