AI模型中内置“防火墙”的科学家

日期:2025-04-30 16:08 浏览:

人工智能(AI)正在迅速推进新蛋白质的设计,这些蛋白质被预计用作药物,疫苗和其他疗法。但是,这种希望担心,这两种工具都可以用于设计生物武器或有害毒药。如今,科学家提出了一系列可以嵌入AI模型中的保护措施,这不仅可以防止恶性使用,还可以监视当出现新的生物武器时所产生的AI模型。 4月28日,相关论文发表在“自然 - 生物技术”中。 ?美国约翰·霍普金斯大学(Johns Hopkins University)的卫生与安全中心主任托马斯·英吉比(Thomas Englishby)说:“建立正确的情节很重要,这有助于我们充分实现这项技术长度长度长na malubhang panganib的巨大潜力。” sa mga nagdaang taon,ipinakita ng mga siyentipiko na ang mga modero ng ai ay ay hindi lamang mahuhulaan ang istraktura ng protina batay batay saMGA Pagkakasunud -sunod ng氨基酸,ngunit bumubuo din ng印地语nakikitang nakikitang mga pagkakasunud -sunod ng Protina na May Ma Maga Bagong Pag Pag Pag -andar sa Isang sa isang sa isang walang walang uliran na rate。 Pinakabagong MGA在几秒钟内iPasadya ang MGA蛋白设计时代的ai tulad tulad ng rfdiffusion。普通人不必拥有博士学位,而可以产生有毒化合物或病毒化合物。实验室没有证据表明现有模型足够强,可以控制新的Pandemya。英班,去年的承诺使用AI工作。就像DeepMind的合成一样,它是AI生成的数字模式失毒的嵌入而没有改变内容质量的情况。在foldmark的情况下,代码作为唯一标识符插入到蛋白质结构而不改变蛋白质功能。如果检测到新的毒药,则可以通过此代码对其进行监控以找到其来源。 Englishby评论说,干预“具有相同的可行性,并且在降低风险方面具有巨大的潜在价值”。研究团队还提出了几种改善AI模型以减少受伤可能性的方法。蛋白质预测模型在现有蛋白质中进行了训练,包括毒物和蛋白质病原体。一种称为“抗学习”的技术消除了一些训练数据,使该模型更难产生危险的新蛋白质。还有一个“反命中破裂”的概念,该系统ISOF系统训练AI模型以识别并否认潜在的恶性说明。此外,研究团队鼓励开发人员采用外部护理,例如使用自主代理来监视AI使用。当一个人试图制造害虫材料时,它会警告安全人员。 “这些护理的实施并不容易。阿尔瓦罗·韦拉斯克斯(Alvaro Velasquez)说:“列入国防先进研究项目局中AI计划的论文和主任的人之一阿尔瓦罗·韦拉斯克斯(Alvaro Velasquez)说:“人们不像其他领域,詹姆斯·祖(James Zou)说,詹姆斯·祖(James Zou)在国际机构中,詹姆斯·佐伊(James Zou)说:“人们不像AI和其他领域那样,对AI和IS RESS SOCK SOCH ISOVER,AI BI BIBORITIAL IN UNTICE of STSNAN FOMITION IN FIMENITICE” Zou认为,监管机构必须关注AI的服务设施或可能改变AI蛋白质设计的机构,而不是要求AI模型,而不是在大规模制造中建立更多的保护机制和调节步骤。 https://dii.org/10.1038/s41587-025-02650-8

0
  • 上一篇:内部TM
  • 下一篇:没有了
首页
电话
短信
联系