讲座主要讨论了智能自主系统的发展与可信赖性问题。

首先，赵鼎老师指出实现可信赖的智能自主系统具有挑战性，需要依赖大规模模型，如视觉基础模型（SAM、SegGPT）和语言基础模型（ChatGPT）。

然后进一步探讨了三个主要挑战：（1）如何在极端值情况下确保安全性，提出通过安全强化学习工具箱来解决；（2）新任务的泛化问题，建议通过定义任务的层次分类以避免过拟合；（3）应对未知的未知，需要假设额外的知识来源。

最后，他引用中华传统文化中的五种美德（仁、义、礼、智、信）并将之赋予人工智能，强调人工智能的发展需要具备善良、正义、礼仪、智慧和可信赖性，特别是智能和可信赖性，对推动智能自主系统的广泛应用有着至关重要的作用。

本次讲座引起了参会师生的浓厚兴趣，现场师生就AI的未来研究方向、AI的可解释性等问题与赵鼎老师进行了深入交流和探讨。

赵鼎老师的精彩讲座不仅让大家收获了丰富的前沿知识，“人工智能与中华优秀传统文化蕴涵相结合”的观点更是加深了大家对于相关问题的思考。本次活动圆满结束！

原文链接：https://mp.weixin.qq.com/s/P6G6dpMaXecJH9fycoGbUA