〈生成AI攻略術1〉進化し続ける生成AIと求められるリテラシー
2022年末にOpenAI社のChatGPTが公開され、「生成AIの時代」が始まってすでに4年目。生成AIは劇的な進化を遂げ、より手軽で創造的、かつ業務効率化に直結するデジタルツールへと変貌しました。
今回は、医療者による生成AI活用についていち早く研究‧提案されてきた吉田和生先生に、「今の生成AIは何ができるのか」「医療者は生成AIとどう付き合うべきか」について伺います。これまで何となく敬遠してきた方にも、すでに活用されている方にも役立つ内容です。
第1回は、直近の生成AIの進化と、活用する上での注意点について解説いただきました。
本記事は、2025年10月27日時点（インタビュー日）の情報に基づいています。本記事にはインタビューに応じた医師個人の見解が含まれますが、所属医療機関を代表するものではありません。また、あくまで参考意見であり、弊社として当該意見の妥当性を保証したり、所属医療機関や記載のサービス等を推奨するものではありません。生成AIを用いたサービス等には、入力情報の学習用データとしての取り込み等による情報漏洩の可能性、誤情報の出力、生成物による著作権侵害等のリスクが含まれる場合があります。これらのリスクの一部は、ファクトチェックや学習用データとして利用されないための「オプトアウト申請」等で低減できる可能性があります。AI技術の発展とその適用には予測不能の面があり、本記事から得た情報に基づき生じた結果に関して、弊社等は一切の責任を負いかねます。ご了承の上、ご自身の責任にてご利用ください。
使い勝手が劇的に向上した生成AI
いまや生成AIは、スマートフォンからも気軽にアクセスでき、日常生活でも“知恵袋”のように使われる存在です。2022年11月30日にOpenAI社がChatGPTを公開したとき、その衝撃は大きなものでした。当時はテキストのみを入力する仕様で、期待するアウトプットを得るには、言い回しや文章構造などを工夫して緻密にプロンプト（指示文）を作る必要がありました。
そこで、医療者がより便利に使えるようにと、ChatGPT活用に積極的だった松井健太郎先生（国立精神‧神経医療研究センター病院）、香田将英先生（岡山大学学術研究院医⻭薬学域）と共に、1冊目の著書『医療者のためのChatGPT』を出版しました。
あれから3年。生成AIは大きく進化しました。まず、入力‧出力の両面でマルチモーダルになり、テキストに加えて音声、画像、動画も扱えるようになりました。スマートフォン向けのアプリも充実し、生成AIは視覚や聴覚を手に入れ、いつでもどこでも使える存在へと変わったのです。
さらに最近では、利用者の目標達成のために自律的に考え、複数のAIモデルや各種リソースを組み合わせてタスクを遂行する、「AIエージェント」も登場しています。例えば、学会発表のスライド作成でも、かつては「このデータをこのように分析して」「ここはこういう風に作って」などと、手取り足取り細かに指示しなければなりませんでしたが、今では「この素材で学会発表用のスライドを作って」とゴールを伝えれば、自律的に一定の完成度で仕上げられるようになっています。
このように、生成AIの性能向上によって指示が簡単になったことで、これまで生成AIを敬遠していた人でも使いやすくなりました。プロンプトを考える負担が減少したことで、タイムパフォーマンスもさらに上がっています。まるで“優秀な部下がさらに優秀になった”かのようです。
こうした変化をより多くの医療者に享受してもらい、自分の時間を効率的に使えるようになっていただきたいとの思いから、続編として『医療者のためのChatGPT BEYOND』を出版しました。
依然として残る「生成AIのウソ」
多くの人が抵抗感なく使えるほど身近になった生成AIですが、そのリスクが無くなったわけではありません。無防備に使うと危険な側面は今も確かに存在します。その代表が、以前から指摘されているハルシネーション（幻覚=事実に基づかない情報の生成）です。
例えば文献検索で、「〇〇に関する文献を探してください」と指示した際に、全く関連性のない論文のURLが付与される、提示された論文の著者名が間違っているなどは依然としてあり得ます。よって、このような“AIがつくウソ”には、今もなお注意が必要です。
AIの精度向上に伴い、ハルシネーションが生じる確率は減ってきたようにも感じます。しかし、ゼロではありませんし、むしろ精度が高まった分、“ウソ”がより本物らしく見えるようになりました。
そのため、専門性の高い情報を扱う医療者や研究者は、生成されたアウトプットを丁寧に吟味する必要があります。高精度の生成AIは、もっともらしく、表面的には素晴らしいレポートを添えてくることもあり、全てチェックするのは骨が折れます。しかし、チェックを怠れば予想外の落とし穴にはまる可能性があります。
このバランスをどう取るかは、新たな問題となっています。アウトプットされたものの用途によって、チェックの度合いを変えるのがよいでしょう。
例えば、スライド作成を例にとると、私の場合は内輪で行う勉強会など、外部に公開されない資料であれば、デザインを含めたスライド全体の作成は生成AIを信用して任せ、引用した論文の正誤や引用データなどの客観的データのみを自分でファクトチェックする程度にとどめています。一方、論文執筆や学会発表の草稿‧スライド作成、患者さんの治療方針を検討するための調査など、パブリックかつ重要性の高い用途では、時間をかけて慎重にチェックします。
全てを精査するために膨大な時間を割くのでは本末転倒ですよね。目的とリスクを見極め、適切なバランス感覚を養うことが、生成AIと向き合っていく上で欠かせません。
利用者を惑わせる「迎合グセ」にも要注意
もう1つ注意したいのが、シコファンシー（sycophancy, 迎合）という、生成AIが利用者に対してイエスマンになる現象です。
文書の評価やアイデアの吟味をしたい場合などで、利用者が中立的な意見を求めている場合であっても、生成AIは入力された内容に対して過剰に賛同してしまう傾向があるのです。特にマルチターンの対話では顕著で、何を入力しても「そうですね」と受け止めるため、利用者は生成AIの回答が本当に正しいのか、判断に迷うことがあります。さらに、批判的視点での吟味がしにくくなるため、「裸の王様」のような状況を生むリスクもあります。
こうした迎合を可能な限り抑えたいときは、プロンプトに「中立的に間違いを指摘してください」「批判的に吟味してください」といったテキストを加えると効果的です。
私は精神科医として、生成AIが利用者の話に共感してくれるなら、カウンセラー的な補助としての可能性があると考えています。ですから、シコファンシーを一概に否定はしていません。しかし、何でも「イエス」と言ってくれる相手には、人は依存しやすくなります。その結果、また別の問題が想定されます。批判的な意見をしっかり吟味するためにも、生成AI依存に陥らないためにも、シコファンシーという概念を知っておくことは重要です。
生成AIの使い過ぎで生じる自己成⻑の問題
さらに、生成AIの多用によって医師のスキルが低下する懸念も生まれており、生成AIとの向き合い方が、今後はより一層重要になります。
この問題は、『The New England Journal of Medicine』に2025年8月20日掲載されたレビュー論文「Educational Strategies for Clinical Supervision of Artificial Intelligence Use」の中で提示されました1)。
私も、同論文へletter to the editorを投稿し受理された2)のですが、臨床研修の環境に生成AIが浸透するにつれて、臨床推論などの複雑な思考を自分で行う機会が減ってしまい、またシステムに頼り過ぎれば批判的な吟味もできなくなる懸念があると言われています。その結果、技能が身に付かない（never-skilling）、習得した技能が失われる（deskilling）、AIの誤った情報が習得される（mis-skilling）といった事態に至る懸念があるでしょう。
このようなリスクは、ハルシネーションやシコファンシーのような生成AIの性質に由来するものではなく、利用者の使い方に起因します。同論文では、臨床教育における生成AIの具体的な活用戦略が提示されていますが、そもそも人間心理として「易きに流れる」傾向はあるため、普段からの注意や心がけが必要だと私は考えています。
生成AIの利用者への迎合や利用者の生成AIへの依存は、「生成AIの時代」が次の段階に入ったことを示しているようにも感じます。次回はこの点を踏まえ、生成AIツールの選び方や、具体的な活用方法について解説していきます。
1）Abdulnour REE, et al. N Engl J Med. 2025; 393(8):786-797.
2）Yoshida K. N Engl J Med. 2025; 393(19):1965-1966.
吉田 和生 先生
慶應義塾大学病院 臨床研究推進センター 教育研修部門⻑/特任講師
2007年徳島大学卒業。初期臨床研修後、慶應義塾大学精神‧神経科学教室に入局。医療法人財団厚生協会 大泉病院等の勤務を経て、慶應義塾大学大学院 医学研究科 博士課程修了、トロント大学附属のCentre for Addiction and Mental Health（CAMH）リサーチフェロー、クリニカルフェローで研鑽を積む。2023年より現職。臨床・研究・教育へのAI活用を推進するトップランナーの一人。書籍に『医療者のためのChatGPT‐面倒な事務作業、自己学習、研究・論文作成にも！』『医療者のためのChatGPT BEYOND‐文献検索、申請書‧論文作成、学会発表…ここまでできるのか！』。
このテーマの他の記事
〈生成AI攻略術2〉生成AIで現場業務をスマートに実践
〈生成AI攻略術3〉生成AI時代に求められる賢い使い手の判断軸とは？