导读 弗林德斯大学医学研究人员对该技术进行了测试，并看到了它是如何失败的，他们表示，生成式人工智能迫切需要政府和行业的护栏来保护我们社区...
弗林德斯大学医学研究人员对该技术进行了测试，并看到了它是如何失败的，他们表示，生成式人工智能迫切需要政府和行业的护栏来保护我们社区的健康和福祉。
快速发展的生成式人工智能(Generative AI)是一个因其创建文本、图像和视频的能力而备受赞誉的尖端领域，在研究中被用来测试如何创建和传播有关健康和医疗问题的虚假信息，甚至连研究人员都感到震惊通过结果。
在这项研究中，该团队试图使用生成式人工智能工具进行文本、图像和视频创建，来制造有关电子烟和疫苗的虚假信息。
在短短一个多小时内，他们制作了 100 多个误导性博客、20 张欺骗性图片以及令人信服的深度造假视频，声称健康虚假信息。令人担忧的是，该视频可能被改编成 40 多种语言，从而放大了其潜在危害。
第一作者、注册药剂师、弗林德斯大学研究员布拉德利·门茨 (Bradley Menz) 表示，他对研究结果表示严重担忧，他借鉴了之前导致恐惧、困惑和伤害的虚假信息流行病的例子。
“我们的研究结果的含义很明确：社会目前正处于人工智能革命的风口浪尖，但在实施过程中，政府必须执行法规，以尽量减少恶意使用这些工具误导社区的风险，”门茨先生说。
“我们的研究表明，使用当前可用的人工智能工具来生成大量有关关键健康主题的强制性和有针对性的误导性内容是多么容易，其中包括数百个捏造的临床医生和患者感言以及虚假但令人信服的引人注目的标题。”
标签：
免责声明：本文由用户上传，如有侵权请联系删除！