本文是新浪微博新技术研发负责人、中国中文信息学会理事张俊林在知乎问题「OpenAI 发布 GPT-4,有哪些技术上的优化或突破?」下的回答,总结了GPT4技术报告里指出的三个方向,还提及了两个其它技术方向。

Auto Byte
专注未来出行及智能汽车科技
微信扫一扫获取更多资讯
Science AI
关注人工智能与其他前沿技术、基础学科的交叉研究与融合发展
微信扫一扫获取更多资讯
本文是新浪微博新技术研发负责人、中国中文信息学会理事张俊林在知乎问题「OpenAI 发布 GPT-4,有哪些技术上的优化或突破?」下的回答,总结了GPT4技术报告里指出的三个方向,还提及了两个其它技术方向。
一种简单的模型或启发法,用作比较模型效果时的参考点。基准有助于模型开发者针对特定问题量化最低预期效果。
强化学习是一种试错方法,其目标是让软件智能体在特定环境中能够采取回报最大化的行为。强化学习在马尔可夫决策过程环境中主要使用的技术是动态规划(Dynamic Programming)。流行的强化学习方法包括自适应动态规划(ADP)、时间差分(TD)学习、状态-动作-回报-状态-动作(SARSA)算法、Q 学习、深度强化学习(DQN);其应用包括下棋类游戏、机器人控制和工作调度等。