生成式AI发展建议
世界经济论坛（World Economic Forum，简称WEF）针对生成式AI的发展提出三十条建议，以便利用人工智能的力量塑造创新、公平和繁荣的社会。
生成式AI指的是利用算法和模型，以文本、图片、视频等方法创造内容的人工智能技术。今年四月，WEF与AI Commons联合举办了Responsible AI Leadership会议，旨在指导技术专家负责任地开发和应用生成式AI。
本次WEF提出的建议正是行业专家在本次会议的讨论中达成的共识。这些建议一共由三个部分组成，分别是研究与开发（Responsible Development and Release）、创新与合作（Open Innovation and International Collaboration），以及社会影响（Social Progress）。
生成式AI的研究与开发
WEF认为，为了保护社会免受生成式AI引发的意外影响，应当倡导利益相关者负责任地实施研究和开发。WEF对此提出如下建议：
- 使用精确和共享的术语：利益相关方需要在设计、开发、评估中使用更精确的术语，以便促进有效沟通，建立有效的标准；
- 建立公众对人工智能的预期：利益相关方需要告知用户生成式AI的不确定性和随机性，以便用户对它们有准确的预期；
- 关注人类的价值观和偏好：开发者在研究生成式AI时，需要符合人类规范的价值观和偏好；
- 鼓励多方参与：政策制定者应当促进各方参与到人工智能研发中，提高多样化和包容性；
- 采用严格的基准：测试者需要使用既定的基准对生成式AI进行实验，并全面评估模型的情况；
- 采纳多样的反方意见：测试者可以选择多样化的反方（Red Team，以批判视角分析潜在的弱点和漏洞的人员）；
- 采用透明的发布策略：项目方在产品设计中，需要负责任地发布模型，以确保可以识别潜在风险；
- 听取用户反馈：项目方需要使用户能够对模型输出提供实时反馈；
- 增加可追溯性：项目方需要增加人工智能生命周期的可追溯性；
- 确保内容可追溯性：项目方需要追踪内容的生成方式，为用户提供辨别人类生成和人工智能生成内容的区别方法；
- 披露人工智能互动：项目方需要告诉用户，是在与人类互动还是机器互动；
- 建立人类对人工智能的信任：项目方需要考虑透明度、一致性的特点，让用户了解人工智能如何实现结果；
- 实施逐步审查程序：项目方需要指定循序渐进的审查流程，在产品上线前和上线后对人工智能进行监督；
- 制定全面的衡量框架：评估方需要采用多层次的框架，关注产品的技术性能和对社会的影响；
- 采用沙盒环境：利益相关者可以在沙盒环境中合作，确保产品的安全性和合规性；
- 更新知识产权政策：随着生成式AI的创作，监管机构需要重新审查更新知识产权相关法律，对现有内容的归属进行判定；
生成式AI的创新与合作
在创新合作方面，WEF认为各国应当加强学术和行业的沟通。WEF对此提出如下建议：
- 鼓励公私研究合作：公共方和私营方应当促进技术开发生命周期内的合作；
- 建立通用平台：研究人员应当对代码、模型、数据、基准等内容的共同开发和使用作出贡献；
- 支持知识共享：研究人员应当为公众提供计算、数据和模型的开放访问；
- 加强国际合作：国际机构应当促进各国的人工智能合作；
- 建立全球人工智能治理倡议：国际机构应当制定全球人工智能治理倡议，协调人工智能面临的风险和挑战；
生成式AI的社会影响
WEF认为，生成式AI对社会将产生广泛影响，在新的变化面前社会需要有更充分的准备工作。WEF对此提出如下建议：
- 优先考虑社会进步：利益相关方需要确保人工智能技术的社会影响位于首位；
- 提高公众人工智能素养：教育机构需要提高公众对生成式AI的认知，创造知情和参与的氛围；
- 培养整体思维方法：教育机构需要培养用户的多样化思维，为适应人工智能时代做好准备；
- 解决人工智能产生的影响：利益相关方需要了解人工智能对人类互动、知识传播和评价机制的影响；
- 解决社会公益问题：利益相关方需要鼓励人工智能应用于医疗、气候变化等社会公益问题；
- 减少基准设施差异：利益相关方需要增加基础设施公共投资；
- 培养人工智能人才：各国需要采用定向激励、交流计划等方式培养人工智能人才，并在未来服务于公众利益；
- 增加发展中国家的机会：利息相关方需要提高发展中国家在人工智能技术中的参与能力；
- 保护文化遗产：利息相关方需要在人工智能发展同时，保护语言多样性和文化遗产；
参考链接：
The Presidio Recommendations on Responsible Generative AI
