人工智能

AI并不“万能”:ChatGPT给出癌症治疗方案被指漏洞百出

近日,《美国医学会肿瘤学杂志》刊登的一篇研究报告指出,ChatGPT生成的癌症治疗方案漏洞百出,毫无参考意义。据悉,该研究来自哈佛医学院附属的布里格姆妇女'...

近日,《美国医学会肿瘤学杂志》刊登的一篇研究报告指出,ChatGPT生成的癌症治疗方案漏洞百出,毫无参考意义。据悉,该研究来自哈佛医学院附属的布里格姆妇女医院,该医院的研究人员发现,在ChatGPT回答的关于癌症病例与其治疗方案的回答中,有三分之一存在不正确信息。qiw品论天涯网

qiw品论天涯网

更致命的是,这些错误信息被ChatGPT与正确信息混杂在一起,导致用户难以分辨到底哪些信息是准确可靠的。qiw品论天涯网

参与该研究的DanielleBitterman博士称,ChatGPT回答中,错误信息与正确信息的混合程度相当高,已经达到了专家也难以发现问题的程度。qiw品论天涯网

事实上,此前就曾有大量消息指出,目前的ChatGPT,或其他生成式人工智能,仍然存在给出强误导性、或是完全错误信息的情况。qiw品论天涯网

对此,以OpenAI为首的人工智能研发团队已经表示,将在后续的开发中提高AI回答的可靠性,避免这样类似“幻觉”情况的出现。qiw品论天涯网

此外,OpenAI已经在使用条款中警告用户,模型并非是为提供医疗信息设计,也不应该被用于为严重的医疗状况提供诊断或治疗服务。qiw品论天涯网

本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取; 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考。本网站属非谋利性质,旨在传播马克思主义和共产主义历史文献和参考资料。凡刊登的著作文献侵犯了作者、译者或版权持有人权益的,可来信联系本站删除。 本站邮箱[email protected]