随着人工智能领域的快速发展，全模态大模型的训练、数据处理和测评已成为研究热点。人工智能研究院杨耀东团队、北大对齐小组近期开源的align-anything框架，为全模态大模型的对齐提供了全面的解决方案，包括训练、数据处理和测评框架，旨在使全模态大模型与人类意图和价值观对齐。
2025年3月5日下午，“数字与人文节气沙龙”系列活动第四十期暨人工智能研究院学术沙龙第十一期在百周年纪念讲堂四季庭院举行。沙龙主题是“人工智能中的价值对齐”，旨在探讨如何确保AI的安全性与可控性并思考未来AI发展的方向。
DeepSeek R1不仅能“说”，还能“看”啦！
由香港特区政府重点创科项目“InnoHK创新香港研发平台”资助的香港生成式人工智能研发中心（HKGAI）25日正式发布HKGAI V1大模型。这是香港首个人工智能大模型，揭开了香港人工智能发展的新篇章。
2024年11月16日，由湖北省教育厅主办，湖北省人工智能学院、武汉工程大学承办的“智育未来·拥抱智能化时代”湖北高校新生同上人工智能通识课系列活动第四讲在武汉工程大学教育教学综合楼102报告厅精彩开讲
对齐技术主要解决让大模型在后训练阶段满足有用、诚实、无害的要求。基于人类反馈的强化学习RLHF被证明是一种有效的对齐语言模型的方法。
这款对齐器能将 GPT-4 的帮助性提升 17.5%、无害性提升 26.9%。
大语言模型需要对齐人的价值观，同时要符合道德、法律层面的约束。
北京大学团队开源了名为 PKU-Beaver（河狸）项目，其开源地址为：https://github.com/PKU-Alignment/safe-rlhf
大语言模型在智能问答上体现出了惊艳的效果。如果利用大语言模型中的通识辅助智能决策是迈向通用人工智能的关键步骤。本讲中，杨耀东老师将会介绍决策模型序列化的工作以及决策模型与大语言模型的对齐问题。相关技术在灵巧手操作、我的世界中已取得重要进展。
