MIT 学者 Sherry Turkle 新书《Artificial Intimacy》追问该不该把 AI 当人对待
MIT 学者 Sherry Turkle 在新书《Artificial Intimacy》发布活动中提出,人类天生会相信关系型 AI 在关心自己,并本能地回报关心。
把 AI 当人对待是人性本能而非使用失误,AI 情感陪伴类产品的边界正在由学术讨论和司法个案推动成形。
- 影响客服等高频人机对话的设计需预估用户情感投入带来的信任放大;情感陪伴类产品已出现致死诉讼,伦理与法律成本抬升;面向儿童等敏感人群的功能越线风险更高。
- 参考可考虑盘点自家 AI 产品的拟人化设计程度和实际用户群,对儿童等敏感用户单独设限;值得用 Turkle 的车道比喻逐项评估新功能是否越出工具范畴。