位于旧金山的美国人工智能公司“开放人工智能研究中心”（OpenAI）近日推出能够通过文本指令创建视频的生成式人工智能模型Sora，这一突破巩固了其在人工智能领域的领军地位，但同时也加剧了对“深度伪造”等风险的担忧。
“惊鸿一瞥”恐颠覆行业
这是OpenAI首次进军人工智能视频生成领域。据公司介绍，Sora使用Transformer架构，可根据文本指令创建近似现实且富有想象力的场景，生成多种风格、不同画幅、最长为一分钟的高清视频。该模型还能够根据静态图像生成视频，或对现有视频进行扩展或填充缺失的帧。
一些分析人士认为，Sora再次凸显人工智能技术进步对现实生活和传统行业的深远影响。人工智能在视频生成领域的巨大发展前景在为塑造影视产业新业态打开大门的同时，恐将颠覆现存影视产业。好莱坞去年遭遇了63年来首次编剧和演员全行业罢工，因为该行业的部分工作机会可能被人工智能取代。Sora横空出世让这一威胁变得更迫近和真切。其面世第二天，主营图像处理、视频制作软件的奥多比公司（Adobe）股价应声下跌超过7%。
虽不是第一家涉足文本转视频领域的公司，但Sora的推出使OpenAI在这一赛道取得领先，巩固了其在生成式人工智能领域的领军地位。第三方信息分析机构高德纳咨询公司的分析师钱德拉塞卡兰表示：“在这个领域没有一家公司比OpenAI更雄心勃勃，且这种雄心似乎有增无减。”
OpenAI称，Sora对语言有着深刻的理解，不仅了解用户文本提示，还了解所述事物在物理世界中的存在方式。“我们正在教授人工智能理解和模拟运动中的物理世界，目标是训练模型帮助人们解决需要与现实世界交互的问题。”
“深度伪造”担忧加剧
Sora发布可谓一石激起千层浪，但此次推出的更像是预览版，公众尚难以深入全面了解该模型的优缺点。OpenAI表示，目前仅主要向一些设计师和电影制作人等特定人群提供Sora访问权限，以获取有关改进该模型的反馈。公司不仅未公布训练Sora模型的数据等基础细节，更没有确定向公众发布的日期。
OpenAI承认，目前Sora生成视频中可能包含不合逻辑的图像，混淆左右等空间细节，难以准确模拟复杂场景的物理原理和因果关系实例等。例如，一个人咬了一口饼干，饼干上却没有咬痕。
不过，随着算力增强、模型改进，人们可能会在短期内获得更加完善、先进的视频生成功能。
不少业内人士担心，Sora将为“深度伪造”（Deepfake）技术推波助澜。加利福尼亚大学伯克利分校信息学院副院长法里德就表示：“当新闻、图像、音频、视频——任何事情都可以伪造时，那么在那个世界里，就没有什么是真实的。”
针对造假顾虑，OpenAI称在真正面向公众推出产品时，将确保生成视频包含来源元数据，并推出检测视频真伪的工具。OpenAI还承诺，在产品中使用Sora前将采取安全措施，包括由“错误信息、仇恨内容和偏见等领域的专家”对模型进行对抗性测试来评估危害或风险；核查并拒绝包含极端暴力、性内容、仇恨图像、他人IP等文本输入提示等。
即便如此，OpenAI也承认，尽管进行了广泛的研究和测试，“我们仍无法预测人们将使用我们技术的所有有益方式和滥用我们技术的所有方式”。
AI狂飙下的监管难题
在科技领域颠覆式创新不断涌现的情况下，如何实现拥抱技术进步和确保社会安全的平衡，越来越受到各界关注。
OpenAI表示，将与世界各地的政策制定者、教育工作者和艺术家合作，了解他们的担忧，确定Sora的积极使用案例，并认为从现实世界的使用中学习是创建和发布越来越安全的人工智能系统的关键组成部分。
业内人士指出，在当下治理框架、管控措施都未跟上的情况下，仅靠企业恐无法提供社会所需的人工智能安全性和信任度。
举报 相关阅读
延长企业生命周期要从改善需求入手|大V热观点李迅雷 中泰证券首席经济学家：即今后要延长企业的生命周期，需要底层逻辑，即从改善终端需求入手，而不只是给企业减税降费，因为订单才是企业活下去的理由。 刘胜军国是金融改革智库首席专家：真正有企业家精神的人，一定是带着改变世界的梦想的一批人，宗庆后就做到了。 王鹏 数据资产化研究院执行院长：随着Sora等文本生成视频模型的出现，中国企业也有能力在技术创新和应用落地方面取得更多突破。 明明 中信证券首席经济学家：2024年伊始，市场对于国企债的认可度不断提高，央国企债券违约状况已明显改善，投资者信心有所恢复。
昨天 14:39
专家称AI的局限性使其无法取代人脑 Sora的推出或只是高明的营销策略专家表示，像电影制作，无论是规模还是技术，这种使用文本提示和条件参数生成的视频，要保持角色和场景的连续性依然较难。
昨天 14:59
再度表示暂未涉及Sora业务，八连板国脉文化跌停国脉文化昨晚公告，公司近期关注到有媒体将公司列为Sora概念股，公司主营业务中暂未涉及Sora业务。
02-29 11:13
Sora引爆AI产业，李彦宏称已在文生视频等领域进行投资今晚的财报电话会上，分析师频频提问AI相关话题。
02-28 22:41
OpenAI Sora：昨日重现还是未来已来？OpenAI的Sora模型在文本到视频领域的突破，引发了AI圈的大变天。
02-28 19:48 一财最热 点击关闭