生成式AI/AI聊天机器人：风险和最佳实践

2023 年第 3 季度通讯

什么是AI？

“人工智能”一词简称“AI”，是指机器（而非人类）表现出的任何智能。近几个月来，在模仿人类推理和创造力的生成式应用程序和聊天机器人（例如ChatGPT、Google Bard和DALL-E）方面，AI引起了轰动。

AI聊天机器人是如何使用的？

AI聊天机器人是虚拟助手，可以使用自然对话帮助你完成各种任务。例如，你可以要求他们在互联网上查找答案、创作文章、编写代码和查找代码中的错误、总结文档、创作艺术品、将文本翻译成其他语言。

有什么风险？

与其他任何第三方应用程序或服务一样，AI聊天机器人也存在风险。以下是你需要了解的两个最重要的事项：

• 泄露：你在AI聊天机器人中输入、粘贴或上传的所有内容都可能存储在母公司的服务器上，用于训练该聊天机器人。与任何其他第三方服务一样，一旦敏感数据离开组织的安全环境，就无法控制或预测谁可以访问它。因此，如果你上传或粘贴敏感源代码或产品设计图，甚至你自己的个人信息，AI聊天机器人就可能使用这些数据来帮助生成其他人查询的答案。

• 幻觉：另一种风险（称为幻觉）是聊天机器人可能会捏造内容或创建根本不真实的内容。例如，它可能会编造统计数据或提及实际上并没有发生的研究或法律案件。

用户如何保护自己？

考虑到与AI聊天机器人相关的风险，有必要遵循一些最佳实践来保证数据安全，并确保获得的结果准确、有用。

• 仅使用获得IT和管理人员批准的AI聊天机器人。

• 切勿将敏感数据（例如源代码、收益报告、内部演示文稿、知识产权、客户数据、法律文件等）输入、粘贴或上传到AI聊天机器人中。

• 利用AI聊天机器人的最佳方法是让它们研究复杂的主题和创建新内容，例如文章、代码或艺术品。

• • 为了获得最佳结果，要提高你的提示词工程技能，即编写清晰的描述性指示的技能。与传统搜索不同，AI聊天机器人可以理解多个句子和要求。他们甚至可以让对话一直进行，从而让你可以提出后续问题，而无需重复之前的指示。

• 一定要验证输出内容的真实性。例如，如果聊天机器人提到历史上的轶事、科学研究或法律先例，一定要使用其他官方来源或咨询组织中的专家进行验证后再使用该信息。