Nebula XAI

Experience the future artificial intelligence

当心伪造的AI生成的医疗信息

警惕虚假,AI生成的医疗信息

尽管AI聊天机器人(例如Chatgpt)作为新闻工具有用,但至关重要的是避免接受他们提供的信息。加利福尼亚州阿纳海姆市美国卫生系统药剂师学会的12月会议上发表的两项研究强调了聊天机器人的持续局限性。

**研究1:Chatgpt药物信息的准确性**

***目的:**来自日本iwate医科大学和加利福尼亚州托伦斯纪念医疗中心的研究人员和药剂师将Chatgpt的数据与词汇的信息(基于证据的临床参考)提供了30种药物的信息。

* **结果:**

* Chatgpt正确回答了30个毒品查询中的两个。

*对于26种药物的信息是不正确的,其余两种的信息部分不正确。

*尽管Chatgpt可能会改善作为学习系统,但咨询药剂师或医生就药物有关的查询仍然是必不可少的。

**研究2:Chatgpt的药剂师查询处理**

***目的:**纽约长岛大学药学院的研究人员评估了Chatgpt对药剂师对药物信息服务的39个查询的回答。

* **结果:**

* ChatGpt未能提供74%的问题的任何回应,或者给出了不准确或不完整的答复。

* chatgpt经常捏造的参考文献,提供导致不存在研究的URL。

*在一个例子中,Chatgpt错误地指出,一种用于COVID-19治疗的抗病毒和血压药物Verelan Paxlovid之间没有药物相互作用。但是,这些药物可以相互作用,可能导致过度降低血压。

* Chatgpt错误地建议了肌肉痉挛药物从注射剂到口服形式的转化,并引用了不存在的组织的指导。推荐的剂量降低了1,000倍,可能导致处方不正确。

**对记者的影响**

*医学研究记者应通过检查利益冲突的研究并寻求独立研究人员的评论,继续进行尽职调查。

*遵循与AI生成的医疗信息和医学社会和监管机构指导有关的新闻报告。

*向研究人员询问他们的研究数据源和验证方法。

*在发布之前,请验证具有独立资源或同行评审引用的其他AI工具获得的任何信息。

**其他资源:**

* [CHATGPT FLUBBED药物信息问题](https://www.medpagetoday.com/meetingcoverage/ashp/107716?xid=nl_medpageExclivery_2023-12-11&eeeun = 970669d0r&utm_soilcce = soildthrummitumit= mmmmmedumit=mmmmedumm = _121123& utm_term = NL_GEN_INT_MEDPAGE_EXCLUSIVES_ACTIVE) – 今天文章

* [chatgpt尚未准备好在黄金时间进行药物查询](https://www.pharmacypracticenews.com/online-first/article/12-23/chatgpt-not-not-not-read-prime-for-prime-prime-prime-prime-prime-for-prime-for-medication-medication-medication-medicies-medicies-medicies- /72307) – 药学实践新闻文章

* [chatgpt生成伪数据集以支持科学假设](https://www-nature-com.proxy1.library.jhu.edu.edu/articles/d41586-023-03635-w#ref-cr1) – 自然文章

* [诸如ChatGpt之类的生成AI工具及其在医疗保健中的潜力:记者的入门](https://healthjournalism.org/blog/blog/2023/03/generative-generative-ai—————————–chatgpt-and-whir-their-their-potential-potential-potential-potential-potential-卫生服务 – 新闻工作者/) – 2023年3月的AHCJ博客文章

See also  2024年AI技术趋势来自顶级风险投资