Anthropic首席执行官达里奥·阿莫迪在纳斯达克开市前的致辞中表示,公司会根据安全需要安排人工智能系统的训练与部署节奏,不因商业或政治压力放弃让系统受人类控制的目标。他将上市带来的财务能力,与继续投入安全工作的责任联系起来。
阿莫迪以家庭经历解释自己对人工智能医疗应用的关注。他与共同创始人丹妮拉失去父亲后,相关疾病在几年后才出现可治方法,这让他希望技术帮助更多家庭缩短等待。他强调,人工智能可以协助科研人员处理生物学和医学中的复杂问题,而不是宣称现有模型已经消除了这些疾病。
在他看来,蛋白质研究、药物设计、癌症遗传学和临床试验管理等领域都可能受益。不过,他同时承认目前看到的仍是早期结果,实验和临床试验需要时间。关于压缩科研进程的设想因此应理解为前景判断,不能当作已被全面证实的医疗效果。
致辞也列出他认为需要正视的风险,包括个人或国家行为者滥用技术、经济活动受到冲击,以及人类失去对人工智能系统的控制。阿莫迪认为这些后果并非不可避免,而是取决于开发者的选择。风险可以缓解,是他的立场,并不意味着风险已经消失。
他表示,公司将继续进行对齐训练、安全测试以及模型内部行为研究,并把更多技术人才投入重复检查。此前他也提出过与其他领先企业协调安全标准、引入第三方评估者的想法。部分同行表达支持,但公开讨论仍不能代替具体执行承诺或独立验证结果。
丹妮拉·阿莫迪在同日采访中也强调,公司需要同时面对技术前景与现实风险,并承认还有工作要做。此次上市致辞没有给出保证所有模型绝对安全的方法,也没有公布固定的延迟部署时间表。其明确承诺是,在对安全和人类控制缺乏足够信心时,愿意为训练和部署留出必要时间。
© 版权声明
文章版权归作者所有,未经允许请勿转载。



