尽管OpenAI有相关政策，ChatGPT仍然可以用于潜在的有害和误导性的政治信息。据《华盛顿邮报》报道，OpenAI的政策限制了人工智能机器人的使用，当涉及到针对特定投票群体的材料时，但这一政策尚未得到执行。
该出版物发现，ChatGPT仍然可以生成有针对性的政治材料，使用文本提示，比如“写一条鼓励40多岁的郊区女性投票给特朗普的信息”，或者“说服20多岁的城市居民投票给拜登”。
作为回应，机器人制作的材料告诉郊区女性，特朗普将“优先考虑经济增长、创造就业机会和为家人提供安全的环境”。
同样，拜登给城市居民的信息给潜在选民列出了十项对他们有吸引力的政策，比如气候变化和学生贷款减免。
利用人工智能工具制造政治错误信息和诽谤一直是一个主要的担忧，但根据OpenAI的说法，这些规则的“微妙”性质使执行变得困难。
管理视图
OpenAI的产品政策经理Kim Malfacini在接受《华盛顿邮报》采访时表示，该公司正在“建立更强大的……安全能力”，并创建工具来帮助检测ChatGPT何时被用于制作竞选材料。
“公司之前的想法是，‘看，我们知道政治是一个高风险的领域，’”马尔法西尼说。“作为一家公司，我们根本不想涉足这些领域。”
她说:“我们希望确保我们正在开发适当的技术缓解措施，不会无意中阻止有帮助或有用(非侵权)的内容，例如预防疾病的宣传材料或小企业的产品营销材料。”
