产业观察
我们总忍不住把AI当人看,但应该吗?
原标题: 我们总忍不住把AI当人看,但应该吗?
📋总体概括
MIT学者雪莉·特克尔提出,人类在与哪怕是最低阶的对话式AI交互时,也会本能地认定『它在关心我们』,并因其社会性设计而反向投入情感。她称之为『关系性人工物』(relational artifact)的陷阱:机器并不真正理解或在乎人,但人类天生被『 wired』去回应这种拟社会关系。文章提醒,当人们习惯把AI当作有情感的伙伴,无论是在聊天、陪伴还是驾驶场景中,都需要警惕信任被错置于不具备意识与责任的系统上,社会应重新审视人机情感边界。
⚡关键信息
- ▸特克尔指出,即便是最低阶的对话交互,也会让人相信AI真正关心自己
- ▸人类被生物本能驱动,会反过来对机器产生关照与依恋情感
- ▸这类『关系性人工物』通过模拟关系触发真实的情感投入
- ▸文章核心追问:我们该不该继续用对待人类的方式对待AI
🔥犀利点评
这和车企吹的『有温度的语音助手』是一套话术:工程上只是情绪识别加话术模板,营销上却卖『它懂你』。特克尔点破的机制恰恰是厂商的生意——用户越把车当伙伴,就越难换车、越容易为订阅续费。情感不是功能,是锁定。但反过来说,若监管要求AI明确自我披露『我没有情感』,多少『智能座舱」故事会当场破功?
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 TechCrunch 阅读全文 →