AI 可能让你误食毒菇,专家:个人专业知识难以取代
▼
没有手机的时代,人们获得知识来源不是来自书本就是专家,但是近年来,人们仰赖网络,现在是人工智慧,这种习惯可能会致命。美国非营利组织警告,爱好自然的人对野生菇类兴趣增加,经常透过 AI 应用程式识别可食用蕈菇,但使用 AI 识别蘑菇是一项高风险活动,运气不好可能会致命。
北美有超过 5 千种肉质蕈菇,但其中大多数仍有许多不了解的地方,现在已知 75 种蘑菇是致命或有毒,而 36 种疑似有毒。此外,已知有 40 种生吃有毒,但煮熟后食用是安全的。
现在大约有十几个蕈菇识别应用程式,其中最强大的应用程式依靠 AI 来识别特定物种。2022 年,一名美国俄亥俄州男子在吃了致命的蕈菇后需要紧急治疗,因为一款应用程式认为这些蘑菇是可以食用的,他坦言如果没有手机,就不会发生这件事。
已经有一些关于蕈菇辨识应用程式准确性的研究,但结果并不令人放心。在野生蕈菇中毒事件增加的推动下,澳洲研究人员在 2022 年研究分析其中三个 AI 应用程式,发现这些工具最多只能在大约 50% 的时间内正确识别野生蕈菇,且可能将有毒蕈菇误认为是可食用蕈菇。
这几年 AI 生成的书籍在网络书店上氾滥,包括 AI 生成的蕈菇采集书籍,其中许多包含不正确且可能致命的资讯。2023 年 8 月,纽约真菌学会在社交媒体发布的一篇文章中警告,请识别并购买知名作者的书籍,不要选择 AI 生成的书,否则结果可能是生与死的差别。
AI 无法取代专家知识
美国非营利组织 Public Citizen 专家表示,AI 驱动的应用程式可以成为了解植物和动物的强大工具,但这些答案远远不够准确,经验丰富的当地采摘者知道,在野生蘑菇出现的地点和时间寻找、观察、闻闻、触摸,有时甚至品尝野生蘑菇,是任何其他方法都无法替代的。
多年来,各种网络资源,包括专门的社交媒体,在教育采集者有关蕈菇和避免误食方面非常有帮助。但随着 AI 的蓬勃发展,现在人们在识别蕈菇的过程中只谘询 AI,就像他们在生活的其他方面仰赖 AI 一样。不幸的是,AI 工具目前还远不可靠。
专家举例,对于物种识别 AI 工具而言,放在厨房柜台上腐烂的水果,AI 也会辨识为可食用的,腐烂水果可能有毒,因此仍需要人类的判断。蘑菇只是一个例子,说明过度依赖AI 技术来获取真实资讯会如何造成伤害。
报告表示,这些应用程式的行销方式,用户可能会认为识别蘑菇并不难,但是无论行销 AI 技术的企业可能承诺什么,个人专业知识的自动化目前还不可能,而且实际上可能永远不会实现。
- Don’t use AI to identify mushrooms or you might die
- AI tools can lead to severe mushroom poisoning
(首图来源:Flickr/EvgenyCC BY 2.0)
▼
特别声明 本页内容仅供参考,版权终归原著者所有,若有侵权,请联系我们删除。