2024年1月30日，战略与国际问题研究中心CSIS发布报告《2024年人工智能政策预测》，对2023年全球发布的主要AI政策和发生的关键事件进行了梳理，概述了2023年全球人工智能的发展情况，提出了2024年在AI政策方面需要关注的10个重点，以及AI领域关键技术术语。
2023年主要AI政策和关键事件
全球重要人工智能峰会和会议
2024年AI政策重要关注点
01 全球人工智能治理高层会谈如何有效落地？
从英国人工智能安全峰会上签署的《布莱切利宣言》到去年日本担任七国集团主席国期间启动的广岛人工智能进程，全球人工智能治理会谈在2023年产生了重要的高层承诺。2024 年，这些承诺将如何转化为可落地的政策和可执行的法规？
02 第三方红队在实践中如何运作？
拜登的人工智能行政令要求人工智能开发者通过一种名为 "红队"（red teaming）的实践检验，来鉴定他们的前沿模型。在向公众发布模型之前，开发人员必须向政府报告其发现。第三方 "红队 "在实践中将如何运作？政府是否能够利用这些发现来跟上大语言模型 LLM 不断增长的规模和能力？
03 美国国会能否通过全面的人工智能立法？
拜登的人工智能行政命令是美国向人工智能监管迈出的一步，但其效力取决于国会通过立法和预算拨款。人工智能监管在很大程度上仍将是一个两党议题。考虑到 2024 年大选的艰难时机，国会通过该法案的速度如何？
04 G7 主席国意大利今年将如何在广岛人工智能进程的基础上开展有意义的工作？
2023 年，日本将人工智能列入 G7 议程，并承诺在广岛人工智能进程下协调人工智能治理工作。治理框架之间的互操作性，是避免全球人工智能格局支离破碎的一项艰巨而重要的任务，意大利已表示将在今年开展这项工作。意大利担任主席国期间，将采取哪些措施来推进广岛人工智能进程，并兑现七国集团对统一人工智能监管的承诺？
05 扩大人工智能规模能否继续带来新的能力突破？
2023 年，大语言模型LLM 的大幅扩展带来了性能的显著提高。今年的改进是否会继续呈指数级增长，开发人员是否会在不进行根本性架构改进的情况下收益递减？
06 美国国防部的复制器计划能否获得所需的资金？
美国国防部的 "复制者 "计划是美国为加速向作战人员交付人工智能自主系统而做出的一项全面努力。该项目旨在应对与中国的激烈竞争，这是一个至关重要的课题。如果国防部只获得象征性的资金，结果将会发生什么？
07 美国及其盟友的出口管制将如何影响中国在人工智能和半导体领域的进展？
华为在2023年八月底发布Mate60 Pro引发了对美国及其盟友出口管制可执行性及其对中国科技发展轨迹的严重质疑。美国及其盟友能否有效执行出口限制，这可能会如何影响中国在2024年的技术发展轨迹。
08 人工智能将如何影响今年的重大选举？
2024 年是历史上规模最大的选举年，全球一半以上的人口将参加投票。164这将是各政党必须明确其对人工智能的立场的第一年，一些选民可能会看到人工智能监管作为一个问题出现在选票上。这两点在一年前几乎是不可想象的。这也将是人工智能可能在竞选活动、相互交流和散布虚假信息方面发挥重要作用的第一个选举周期。有了人工智能的参与，世界上最繁忙的选举年将会如何发展？
09 开源AI模型将继续以领先的性能水平可用吗？
开源与闭源的辩论主要围绕着AI开发是否应该优先考虑透明度、合作和可访问性（开源），还是专有控制、安全性、竞争优势和知识产权保护（闭源）。在这场辩论中谁将会胜出，这对AI未来的发展、监管和民主化会有什么影响？
10 科技巨头会继续主导AI的发展吗？
目前，AI领域主要由谷歌、OpenAI和Facebook等少数关键参与者主导。科技巨头会继续主导AI的发展和市场回报吗，还是我们会看到更多在细分行业中崭露头角的赢家，从而形成多元化的格局？
2024年AI领域关键技术术语
代理 Agent
一种能体现人工智能、能够感知环境、做出决策并采取行动以实现特定目标的系统。代理可用于强化学习领域，例如自动驾驶汽车。
人工智能聊天机器人AI chatbot
使用人工智能以类似人类的方式与用户交谈、为其提供信息和帮助的计算机项目；例如 Siri 和 ChatGPT。这些系统可能使用大型语言模型，也可能不使用大型语言模型。
看齐 Alignment
设计人工智能的目标是使其按照人类的价值观和期望的结果行事。
通用人工智能 AGI
一种理论上的人工智能技术，在广泛的智力领域超越人类能力，并能灵活学习。
人工智能AI
能够执行模仿人类智能的任务的计算机系统；例如，从经验中学习（机器学习）、理解自然语言和识别模式。
自动化 Automation
利用技术在没有人工干预的情况下完成任务。
深度学习 Deep learning
机器学习的一个子集，通过从大量数据中学习模式来训练具有许多层的人工神经网络以执行任务。
扩散 Diffusion
生成模型模拟图像逐渐演变的一种方法，通过学习和应用统计模式生成新的、复杂的视觉内容。
新兴能力 Emergent capabilities
由于人工智能系统各组成部分之间的相互作用和复杂性而产生的意想不到的功能或行为；例如，一个接受过玩视频游戏训练的人工智能可能会发现一条在训练过程中没有明确教授的非常规路线。
存在风险 Existential risk
人工智能系统对人类文明的发展轨迹构成灾难性和不可逆转威胁的可能性，尤其是与人类物种灭绝有关的风险。
可解释性 Explainability
理解人工智能系统如何做出决策的能力；与透明度和问责制密切相关。
基础模型 Foundation model
预先训练好的通用人工智能模型，可在此基础上创建更专业的模型；例如，谷歌的 BERT 和 OpenAI 的 GPT 系列。
生成式人工智能 Generative AI
生成图像、文本、音频和视频等新内容的人工智能系统。
生成式预训练转换器（Generative Pre-trained Transformer GPT）
由 OpenAI 开发的一种大型语言模型，通过互联网数据的训练来处理和生成文本；GPT 可以执行各种自然语言任务，如编写代码、生成图像和进行类人对话。
图形处理器GPU
一种专用电子电路，设计用于加速图形处理和并行计算任务；GPU 通常用于同时进行多项计算，从而提高深度学习模型的性能。虽然最初相同的 GPU 芯片用于计算机图形和人工智能应用，但最近推出的芯片专门针对人工智能应用，因此有些人将其称为人工智能芯片，而不是 GPU。
幻觉 Hallucination
模型产生的不准确信息；通常是由于过度拟合或接触到有偏见的数据造成的。
炒作 Hype
围绕人工智能能力和影响的耸人听闻的说法，这可能导致夸大的公众看法，而这些看法可能与人工智能的现状不符；该术语用于提醒人们不要抱有不切实际的期望。
大语言模型 LLM
一种人工智能模型，通过对大量文本数据进行训练，以理解和生成类似人类的语言；例如百度的厄尼机器人和 Anthropic 的Claude。
自然语言处理 NLP
人工智能的一个子领域，专注于训练计算机理解、解释和生成人类语言。
神经网络 Neural network
一种受人脑结构启发的计算模型，由相互连接的节点（神经元）组成，共同处理和分析数据。
开放源代码 Open sourcing
公开软件项目的源代码和开发细节；这允许其他人贡献、修改并在自己的项目中使用代码。
提示词 Prompt
为人工智能模型生成所需的输出而发出的特定指令，用于指导模型的行为和反应。
红队 Red teaming
一种由 "红队"（传统上是安全工程师）模拟对抗性攻击和挑战的方法，通过试图让人工智能系统产生不期望的结果，来鉴定人工智能系统的安全性、鲁棒性和脆弱性。
强化学习 Reinforcement learning
一种机器学习类型，代理通过接收对其行动的反馈（奖励或惩罚）来学习决策。
监督学习 Supervised learning
一种机器学习类型，其中AI模型在带标签的数据集上进行训练；模型学习将输入映射到相应的输出，并将这种映射推广到对新数据的预测。
转换 Transformer
一种先进的机器学习研究中使用的最新神经网络架构。转换使用一种称为“自注意力”的技术，快速学习数据点（例如单词）之间的上下文关系，从而能够更快地生成更准确的预测。最初用于自然语言处理，现在用于各种应用，如计算机视觉、防止欺诈或药物发现。
无监督学习 Unsupervised learning
一种机器学习类型，其中模型接受没有明确标签的训练输入数据。算法自行探索并发现模式，模型的正确性通常通过其实现预期目标的程度来确定。
