人工智能或拯救我们，或制造超级病毒杀死我们

原创 GlobalMD 全球医生组织

2024年07月29日 06:30美国

《纽约时报》刊发述评“最令人震惊的交易：只需不到10万美元就能用AI开发出一种能杀死成百上千万人的超级病毒。这是国际知名智库，兰德公司总裁得出的结论。他们预测制造一种杀死数亿人的病毒已不是成本问题（稍微有点儿钱的人都付得起)，而预防和抗击超级病毒的方法和药物则需要投资数十亿美金才能开发出来。人工智能：拯救人类还是威胁、甚至毁灭人类？关注详情。

阅读文摘

现在，利用人工智能制造一种可能杀死数百万人的超级病毒，成本不到10万美元。兰德公司总裁马瑟尼先生认为，制造能杀死数亿人的病原体与杀死数十万人的病原体的成本相差无几，稍微有点儿钱的人都可以支付得起。

然而，研发一款新疫苗或抗病毒新药则需要耗资数十亿美元，甚至几年的时间。

生物武器的因其可能回旋镖效应而受到限制，但针对特定种族或个体的生物战，却使其变得更为可怕。借助合成生物学和AI制造那些超级病毒或病菌越来越容易和廉价了。

尽管AI在医学、教育和网络安全方面具有巨大的应用潜力，比如AI驱动的蛋白质折叠技术和新药物候选物筛选，但AI应用的风险同样不容忽视，AI可能用于自主无人机战争、制造机器人杀手、操纵社会舆论等。

治理和监管AI技术应用的挑战在于，确保AI用于造福人类，而不是被滥用。正如美国国家安全资深顾问苏珊·赖斯所坦言“科技公司的自主决策不应当决定国家安全和世界的未来。管理人工智能，将是全人类所面临的最大挑战之一。谁袖手旁观，谁可能就是最先的“实验品”。

AI的潜在威胁和预期获益同样巨大，唯有了解它、掌握它，监管好AI