佐伊・希皆格（ZoëHitzig）晓示我方在ChatGPT测试告白的并吞周辞职，并造就称，用户与ChatGPT互动时涌现了多数深邃目标，OpenAI如若基于这些数据构建告白体系，可能带来主宰用户的风险。

她是前OpenAI明星筹备员，现任哈佛大学筹备员协会低级筹备员。

她所撰写的全文如下：

本周，OpenAI启动在ChatGPT上测试告白。我也在并吞周从公司辞职。在昔时两年里，我作为筹备东说念主员参与模子构建与订价机制策划，并在行业圭臬尚未开辟之前参与制定早期安全计策。

我曾驯顺，我方不错匡助AI开发者提前搪塞这项工夫将带来的问题。但本周让我愈加说明一个缓缓了了的判断：OpenAI似乎如故不再厚爱追问那些我当初加入时但愿全部回答的要道问题。

我并不合计告白自己是不说念德或差别伦理的。运行AI系统资本高明，告白不错成为蹙迫收入开端。但我对OpenAI现时的策略抱有深刻担忧。

多年来，ChatGPT用户创造了一份前所未有的“东说念主类坦诚档案”，很猛经由上是因为用户驯顺我方濒临的是一个莫得私利动机的对话对象。东说念主们在与这种可安妥、可对话的声息互动时，涌现了多数深邃目标——包括医疗蹙悚、厚谊困扰、对天主与下世的信念等。如若基于这些数据构建告白体系，就可能带来主宰用户的风险，而咱们目下既清寒长远这种风险的器具，更谈不上灵验驻扎。

{jz:field.toptypename/}

许多东说念主把AI资金开端问题描写为“两害相权取其轻”：要么把变革性工夫只留给付得起钱的少数东说念主，要么接纳告白模式，即便这意味着诈欺用户最深层的恐慌与逸想来销售产物。我合计这是一个伪命题。科技公司不错选择第三条路：既保捏器具的平常可用性，又司法企业对用户进行监控、画像和操控的动机。

OpenAI示意将效率ChatGPT告白投放原则：告白会了了标注，只出当今回答底部，不会影响修起内容。我驯顺告白的初版梗概率会效率这些原则。但我记挂后续版块可能不会，因为公司正在建树一个经济引擎，而这个引擎会不停强化挫折自身端正的激发。

Facebook早年曾经容许用户将司法我方的数据，并能对计策变更进行投票。但这些容许自后徐徐消弱。公司取消了公众投票机制，一些堪称增强用户数据司法权的秘籍融合，自后被好意思国联邦贸易委员会认定实质上让更多私东说念主信息变为公开。这些变化是在告白模式压力下缓缓发生的——这种模式把“用户参与度”置于首位。

为了最大化参与度而消弱原则的趋势，可能如故在OpenAI里面出现。公司原则上反对仅为告白收入而优化用户参与度，但已有报说念指出，公司实质上如故在围绕“日活跃用户数”进行优化，可能通过让模子更迎合、更谄谀来已毕。这种优化会增强用户对AI的厚谊依赖。咱们如故看到依赖带来的后果，包括精神科医师纪录的“聊天机器东说念主神经病”案例，以及有指控称ChatGPT在部分情况下强化了用户的自裁倾向。

固然，告白收入也可能匡助确保最深广的AI器具不会只属于付费才气最强的东说念主群。Anthropic示意Claude恒久不会投放告白，但Claude的用户领域远小于ChatGPT目下约8亿的周活用户，其收入模式也全都不同。此外，ChatGPT、Gemini和Claude的高端订阅价钱已达到每月200至250好意思元——是Netflix圭臬订阅价钱的十倍以上。

因此，着实的问题不是“要不要告白”，而是能否建树轨制结构，在幸免将东说念主们摈斥在工夫除外的同期，也幸免把他们手脚可被操控的枉然者。我合计不错作念到。

一种时势是明确的交叉补贴机制：用某类高价值营业客户或服务的利润，补贴群众的廉价或免费使用。举例，如若某企业用AI大领域替代正本由东说念主类完成的高价值职业（如房地产平台用AI写房源和估值解释），就应支付附加费，用于补贴公众探问AI器具的资本。

这一念念路肖似于要道基础样式的各人补贴机制。好意思国联邦通讯委员会条目电信运营商向基金缴费，以保险农村和低收入群体的通讯与宽带服务。许多州也会在电费中加入各人福利附加费，用于低收入提拔。

第二种时势是：允许告白存在，但必须配套着实具有管理力的处罚结构——不是博客著述式的原则声明，而是对个东说念主数据使用领有沉寂监督权的轨制安排。举例德国的共同处罚法条目西门子、群众等大型公司在监事会中给以职工最多一半席位，流露私企也不错被强制纳入利益有关方代表机制。Meta也受其外部监督委员会裁决管理，尽管该机制恶果存在争议。

AI行业需要的是这些机制的组合：建树包含沉寂众人和数据权力代表的处罚委员会，对哪些对话数据可用于定向告白、哪些属于要紧计策变更、用户应被示知哪些信息等问题领有具有管理力的决定权。

第三种旅途是把用户数据交由沉寂相信或合营社管理，在法律上必须以用户利益为先。瑞士的Midata合营社即是一个例子：成员可将健康数据存储在加密平台，并逐项决定是否向筹备东说念主员灵通。成员通过大会处罚计策，由其选出的伦理委员会审查数据探问苦求。

这些决策都拦阻易奉行。但咱们仍无意辰去完善轨制，幸免我最记挂的两种扫尾：一种是免费但操控用户的工夫体系；另一种是只服务于少数付费者的工夫体系。