2024人工智能十大前沿技术趋势在北京发布

技术，通过迅猛发展和广泛应用，正影响着人类生活与工作的方方面面，其未来发展趋势广受关注。

2024年世界科技与发展论坛“人工智能治理创新为培育科技治理生态构建国际信任基础”主题会议10月23日在北京举行，中国科学院院士、世界机器人合作组织理事长乔红在会上发布《2024人工智能十大前沿技术趋势展望》，包括AI共性技术4项、大规模预训练模型3项、具身智能2项、生成式人工智能1项，希望引发学界、大众的思考和讨论，共同推动人工智能技术的发展和应用。

当天发布的人工智能十大前沿技术趋势分别是:“小数据与优质数据的崛起”“人机对齐:构建可信赖的AI系统”“AI‘宪法’:确保合规性与安全性”“可解释性模型:让AI更透明可信”“规模定律下的预训练模型革新”“全模态大模型:打破数据壁垒”“AI驱动科学研究的新纪元”“具身小脑模型:赋予机器人实时反应能力”“实体人工智能系统:智慧赋能物理世界”“世界模拟器:创造无限可能的数字世界”。

其中，人机对齐方面，仅依靠数据和算法并不足以实现人机对齐，需要将人类的价值观和伦理道德转化为强化学习奖励函数，引导模型学习到更加符合人类期望的行为。

当前AI系统的合规性、安全性和伦理问题愈发突出，建立监督模型框架尤为必要。其主要目的是通过制定明确的标准和规范，确保所有AI系统在开发和使用过程中遵循既定的原则，从而减少AI在制度没有确定的情况下被过度使用所带来的风险。

规模定律方面，基于海量参数和训练数据的大规模预训练模型能够有效提高人机交互和推理能力，增强可完成任务的多样性和丰富性。

AI驱动科学研究方面，使用大模型、生成式技术等来增强和加速科学研究中的提出假说、试验设计、数据分析等阶段的效率，提高研究效率和准确性。这种灵活且高效的研究方式，大大提升发现新科学规律的可能性，从而加速科学研究的进程。

具身小脑模型方面，作为机器人运动的重要调节中枢，其核心在于解决软件算法与物理空间结合的问题，以及单体高性能和能力通用性之间的矛盾，从而使智能机器人系统更加满足现实世界的精细操作与实时控制需求。

人形机器人是实体人工智能系统的终极表现形态，它不仅具备多模态感知和理解能力，能够与人类自然互动，还可以在复杂环境中自主决策和行动，并有望在未来应用到更多复杂的工作场景中。

世界模拟器通过综合考虑数据质量、多样性、模型训练策略和正则化技巧，生成模型在未见数据上的泛化能力得以不断提高，结合数字交互引擎提供沉浸式的高仿真体验，为使用者带来更加丰富和多样化的游戏世界，应用于教育、娱乐等领域，还可创造更多超级数字场景。

乔红院士指出，从智能制造到智慧城市，从医疗健康到金融服务，人工智能的应用无处不在，其影响力深远而广泛，但也面临着新的挑战和机遇。如何把握人工智能的发展方向、如何推动技术创新与产业升级、如何确保人工智能技术的可持续发展，这些问题都需要深入思考和探讨。

她表示，总的来说，人工智能的发展正以前所未有的速度推进科技进步和社会变革，无论是AI共性技术、大规模预训练模型、具身智能还是生成式人工智能等前沿领域，都充满了无限的可能和潜力。这些技术的发展不仅将为人们带来更加便捷、高效的生活方式，还将推动各行各业的创新和发展。