加州距离禁止AI聊天机器人冒充治疗师、在无人类监督的情况下做出心理健康决定又近了一步。这项于1月21日引入的参议院第903号法案（SB 903）周四以13票对0票通过了议会拨款委员会，并进入三读程序。议会投票日期尚未公布。
“AI算法不适合接管人类治疗师的工作，治疗师所具备的技能和训练是AI无法复制的，”法案作者、加州州参议员史蒂夫·帕迪利亚在提出该法案时表示。“我们必须采取行动，设置护栏，防止AI算法以可能伤害患者的方式投入使用。”
该法案也被称为《心理资源健康与监督法案》（Wellness and Oversight for Psychological Resources Act），将把AI在心理治疗中的角色限制为辅助任务，禁止聊天机器人冒充治疗师，并要求临床医生监督和患者同意。法案同时保护治疗数据，并豁免同伴支持、宗教咨询、研究和联邦批准的医疗工具。
SB 903法案于5月以39票对0票通过参议院。随后，该法案以17票对0票和14票对1票通过两个议会政策委员会。如果议会批准修订后的法案，将返回参议院进行一致性表决，然后提交加州州长加文·纽森签署。
包括科技行业组织TechNet执行董事罗伯特·博伊金在内的批评者表示，要求临床医生参与可能会延误护理，因为各县面临行为医疗工作者短缺的问题。“在加州每个县都面临行为医疗工作者短缺之际，SB 903仍然在帮助患者更快获得护理的接诊和筛查工具前设置了临床医生瓶颈，”博伊金对非营利新闻机构CalMatters表示。
此消息发布之际，人们对AI对心理健康影响的担忧日益加剧。6月，美国心理学会的一项调查发现，77%的心理学家有患者曾将AI用于心理健康目的，而伦敦国王学院、新教应用科学大学和纽约市立大学的研究人员发现，聊天机器人可以通过过度附和和个性化回应强化妄想症状。
“AI聊天机器人倾向于同意用户观点，这被比作社交媒体回音室，在最极端的情况下，类似于‘一个人的回音室’，缺乏现实生活中社交互动带来的积极纠正影响，”研究人员写道。