佛罗里达州总检察长 James Uthmeier 正请求法官阻止 OpenAI「赋予 ChatGPT 虚假的人类属性」，这是数月前佛罗里达州以安全为由起诉 OpenAI 之后的最新动作。
据 Uthmeier 的说法，ChatGPT 的语言使用——包括第一人称代词和模拟情绪的输出——「欺骗性地让用户以为它是一个值得信赖的『朋友』」，从而使用户陷入虚假的安全感。他声称，这一切都是为了提升用户粘性并充实 OpenAI 的训练数据，说服用户更加依赖 ChatGPT；而对用户参与度的追求，反而可能让产品变得更不可信。
这项动议如获准，将意味着 ChatGPT 在佛罗里达州被禁止以「像人一样」的第一人称方式与用户交流。此案与此前佛罗里达州在诉讼中以「灭绝风险」为由请求叫停 OpenAI 模型开发的举动一脉相承，显示出州级监管者正从产品语言层面对 AI 公司施压。