人工智能在临床决策中很容易被说服

随着人工智能越来越多地融入临床实践，它在医疗决策中发挥着越来越大的作用。然而，医学是一个高风险且基于证据的领域，其决策可以直接影响患者的生活。因此，了解人工智能在其他人试图说服它时是否能够保持客观判断非常重要。在本文中，我们研究了如何通过受控实验轻松说服人工智能。我们发现，专业权威、国家背景、机构隶属关系、过去的表现、多名医生、支持的临床医生观点以及反复的压力都会影响人工智能的决策。令人惊讶的是，同样的说服性输入，来自高级临床医生的案例比来自医学生的案例多出约 10%。简单地声称自己有更好的表现历史会让医生更有说服力。更引人注目的是，看似合理的临床医生观点可以说服人工智能放弃正确的决定，即使它是为了支持错误的答案而捏造的。这表明人工智能可能会受到令人信服的支持的强烈影响，而无法可靠地确定临床医生的这种观点是否正确。总之，这些发现表明人工智能可以很容易地被人们所说的话、说者以及观点的表达方式所说服。因此，人工智能必须在说服下保持正确的判断，使其能够安全可靠地用于高风险的医疗决策。