(相关资料图)

站长之家（ChinaZ.com）3月30日 消息:安全研究人员表示，急于采用热门新型人工智能的公司在使用该技术的开源版本时应谨慎行事，其中一些版本功能可能不仅不如宣传的好，还有可能包含黑客可以利用的漏洞。

据彭博社报道，美国国防部（Defense Department）客户、机器学习安全公司Robust Intelligence的杰出工程师 Hyrum Anderson 表示，很少有方法可以提前知道特定的 AI 模型是否安全。Anderson 称，他发现一半公开可用的图像分类模型在他的测试中失败了。其目的是确定恶意行为者是否可以以可能构成安全风险或提供不正确信息的方式改变人工智能程序的输出。

Anderson 表示，模型通常使用特别容易出现安全漏洞的文件类型。这是一个很严重的问题，因为很多公司在没有完全理解底层技术的情况下从公开来源获取模型，而不是自己创造。90% 的 Robust Intelligence 公司使用从人工智能模型库 Hugging Face 下载模型。

（举报）

标签：