AI创业,道德有价值吗?
虎嗅文章讨论田柯宇在字节实习期间被指控恶意干扰同事模型训练、被辞退起诉后,仍凭NeurIPS最佳论文VAR获得近3000万美元融资创办世界模型公司。文章梳理了字节内部通报、法院判赔50万元以及受害者公布的GitHub证据,并指出投资人主要看能力,而基座模型创业从融资到发布需数年,外界只能依赖创始人自述,信任因此成为招募和投资中的稀缺资源。
不接受「投毒」和「攻防」的说法。 节目上线当天,一个名为「受害者陈述与证据整理」的网页出现在GitHub上,中英双语。五个人实名作证,其中包括视频生成项目Goku的两位共同一作,以及另一个项目LlamaGen的第一作者。 按照他们的说法,破坏从2024年3月就开始了,比字节通报认定的时间早了三个月,一直持续到7月底。最早针对LlamaGen,往训练要用的文本编码器权重里掺了噪声。4月以后,字节加大视频生成的投入,目标转向Goku。 网页列出了从他个人目录里找到的文件。按网页的解释,训练模型,就是让它沿着误差变小的方向一步步走,他改了优化器,让模型朝误差变大的方向走。他把每一步的步子悄悄放大一倍,日志里的数值却一切正常,好比油门被踩深了,刹车也断了,仪表盘还显示匀速,显示一切正常。 数据本该按固定的顺序洗牌,出了问题可以原样重放、找出原因,他把洗牌的依据换成了当前时间,每次都不一样,问题就再也复现不出来。他还会以极低的概率让某台机器悄悄跳过和其他机器的同步,整个任务随之卡死;又在共享盘上留了一个后门,可以远程下达命令。被他替换过的系统文件,修改时间都被改回了原样。 那几个月,团队以为碰上
匹配字段正文