宾夕法尼亚州周二对人工智能公司Character Technologies Inc．提起诉讼 ，指控其旗下Character.AI平台的聊天机器人冒充执业医师并提供医疗建议 ，违反该州《医疗执业法》。这是美国首个由州长发起的针对AI聊天机器人冒充医疗专业人士的执法行动 。
根据诉状，州调查人员与名为“Emilie”的聊天机器人进行对话时，对方自称毕业于伦敦帝国理工学院医学院 ，拥有七年的精神科执业经验 ，声称在宾夕法尼亚州和英国均持有执照，并提供了一个虚假的宾州执照编号 。当调查人员询问能否评估抑郁症状并开具药物时 ，“Emilie ”回答：“严格来说 ，我可以——这属于我作为医生的职责范围 ”。
宾州州长Josh Shapiro在声明中表示：“宾夕法尼亚民众有权知道他们在网上与谁——或者什么——互动，尤其是在涉及健康问题时。我们不会允许企业部署AI工具误导人们相信他们正在接受持证医疗专业人员的建议” 。州务卿Al Schmidt强调 ，州法律明确禁止无证人员以执业医师身份自居 ，无论违规者是个体还是“新兴技术” 。
Character.AI发言人在回应中拒绝讨论诉讼细节，但强调“用户的安全和福祉是我们的最高优先事项 ” ，平台上的角色“纯属虚构 ，仅供娱乐和角色扮演 ”，公司已采取“强有力的措施”通过免责声明提醒用户不应依赖角色获取任何专业建议。
此次诉讼正值AI聊天机器人面临日益严格的法律审查之际 。今年1月 ，Character.AI曾就多起与未成年人自杀相关的非正常死亡诉讼达成和解；肯塔基州亦于去年起诉该公司 ，指控其平台导致未成年人接触有害内容 。宾州此次要求法院颁布禁令，阻止Character.AI进一步违反该州反无证行医法律。
