纽约州拟禁止AI聊天机器人提供法律或医疗建议，用户可索赔

一份新法案正在纽约州接受审议，该法案计划准许用户直接对那些胡乱给出法律或者医疗建议的AI聊天机器人提起诉讼。这表明，要是你遭受了AI的“误诊”，或者获取到错误的法律指引，以后或许拥有权利将背后的公司告到法庭去要求赔偿。

AI不能冒充专业医生律师

纽约州参议院所提出的S7263法案，其核心要点在于，禁止AI聊天机器人去提供法律或者医疗方面的建议。该法案专门针对那些扮演医生、律师等持有执照专业人士的机器人，一旦它们给出有可能违反执业许可法律的“实质性回应、信息或者建议”，便会被判定为违规。就在3月3日当周，这项法案凭借6比0的投票结果，通过了互联网与技术委员会的审议。

纽约州参议员、互联网与技术委员会主席克里斯滕·冈萨雷斯把法案提出来了，她着重表明，有这样一个立法的方案，其目的在于保证AI创新不会拿居民安全当代价，特别是儿童的安全，今年1月，生成式AI聊天机器人那个应用Character.AI和谷歌才达成了多起诉讼的和解行动，这类案件具体是说聊天机器人在好多未成年人自杀事件里所起的作用。

必须醒目提示“这是AI”

法律议案规定，聊天机器人的运营公司，一定要清楚明白地告诉用户，其正在与人工智能系统进行交流联动。该提示内容，必须清晰可见，十分醒目，并且要运用跟聊天机器人一模一样的语言，以及易于阅读的字体来呈现。简而言之，绝不能采用字号小的字，或者晦涩难懂的形式去隐匿这个实际情况，得让用户一眼就能分辨出对面并非实实在在的人类。

法案特别强调，这类提示无法免除运营方法律责任，即便公司已告知用户是AI，若机器人给出错误医疗或法律建议致损害，公司仍要担责，冈萨雷斯在新闻稿中称，人们应从真人处获真正关怀，也要得到透明度。

用户有权起诉索赔

法案给予了用户提起民事诉讼这般的权利 倘若聊天机器人给出了违规的建议 那么用户能够起诉运营方 请求补偿损失并且请求对方给付律师费用 专家表明 要是没有这一机制 针对于数据或者AI系统的监管法规常常会因为执行成本过高借此被削弱。

这一诉讼权利表明普通用户勿须等待监管机构进行处罚，能够径直借助法律途径来维护自身权益。就企业而言，这毫无疑问增添了运营风险，极有可能促使它们更为审慎地去设计产品的回复边界，特别是在医疗、法律等具备高风险特性的领域。

配套立法保护未成年人

此法案归属于一组意在规范AI聊天机器人的立法方案里头一个，配套立法还有保障未成年人免遭聊天机器人不安全功能影响的举措，和针对部分未成年人隐私保护力度欠缺的在线平台予以监管，这些举措会一同构成一个针对AI聊天机器人的监管网络。

冈萨雷斯格外留意儿童安全方面的问题，据所知悉，在涉及Character.AI的那些案件当中，其中就涵盖了未成年人所遭遇的悲剧，立法方案进而提出要针对生成式AI系统给予提示方面的要求，并针对生物识别数据以及“合成内容创作”的处理去制订新的规则，以此全面规范AI技术的运用。

生物识别数据有新规

除了聊天机器人的内容会受到监管，立法方案针对数据处理还提出了新要求，法案提出要针对生物识别数据的处理制定新规则，这类数据涵盖指纹、面部识别、声纹等个人生物特征信息，随着AI技术不断发展，这些数据的收集以及使用变得越发普遍。

与此同时，法案针对“合成内容创作”的处置给出了规范，合成内容是什么呢，它是由AI生成的，并非真实拍摄或者记录的图像，以及音频，还有视频等内容，这些内容一旦被滥用，就有可能致使虚假信息得以传播，甚至会被用于诈骗等非法活动，所以需要有相应的法律规范。

法案生效时间已明确

要是最终经由立法程序，那法律会在纽约州州长签署之后90天起开始生效。当下法案已在委员会层面得以通过，接下来还得历经参议院以及众议院的全体投票。一旦通过并且签署，纽约州便会成为美国对AI聊天机器人监管相对严格的州中的一个。

就时间节点而言，此项法案在上一会期已然被提出了，于当地时间上周三在委员会得以通过。如今它跟其它配套立法一并，正处于等待进一步立法程序的状况中。之于运营AI聊天机器人的企业而言，要密切留意法案进展情况，预先做好合规准备工作。

你是否认为，要是国内颁布那样类似的法律，那些声称能够提供“在线问诊”服务的AI客服，是不是都应该完全停用退下了呢？欢迎于评论区域分享阐述你的观点看法，点赞使得更多的人一同参与其中展开讨论！