医学研究で生成AIを使うとき、何を任せ、何を人が確かめ、どう開示するかを、AIの誤りを実測した研究、雑誌と研究費配分機関の方針、国内の倫理指針と個人情報保護の要点から整理する。生成AIは文献検索から論文の選別、データ抽出、解析コード、執筆まで多くの工程を速くするが、実在しない文献や原著にない数値を、もっともらしく示すことが実測されている。
医療従事者向け:本記事は教育および一般的な医学情報の提供を目的としています。個々の患者に対する診断・治療を代替するものではありません。
まず押さえる要点
- AIが挙げた文献は、原文で確かめるまで使わない。架空の文献の割合は、GPT-3.5で47%[1]・55%[2]、GPT-4で18%[2]、GPT-4oで19.9%[3]だった。ウェブ検索つきのGPT-4oでも、回答のほぼ半数は引用元で全面的には裏付けられなかった[4]。
- 論文の選別とデータ抽出は、人の確認を残して使う。日本版敗血症診療ガイドライン2024の材料で、GPT-4 Turboによる選別の感度は0.75(95%CI 0.43〜0.92)だった[5]。アウトカムのデータ抽出で誤りのなかった割合は、モデルにより27.8〜80.7%と大きく違った[6]。
- 解析コードは「動いた」では足りない。教材の例題でも、コマンドの正答率は87.5〜96.9%だった[7]。変数定義表と対象者フローに照らして検証し、実行したコードと版を残す。
- AIは著者になれず、開示と内容の責任は人にある。この点はICMJE、COPE、WAMEで一致する[8][9][10]。開示の場所と中身は雑誌ごとに違い、日本外傷学会雑誌は生成AIの名称・版・製造元、使い方、プロンプト、使った箇所の開示を求めている[11]。
- 研究対象者の情報を外部の生成AIに入れるかは、研究計画と倫理審査で決める。個人情報保護委員会は、本人の同意なく個人データを入力し、それが応答以外の目的で取り扱われる場合は法に違反する可能性があるとした[12]。倫理指針の改正版は2026年12月1日に施行される[13]。
対象と扱わない範囲
対象:臨床研究、観察研究、系統的レビューで、研究者が生成AI(大規模言語モデル、LLM)を補助の道具として使う場面。文献検索と選別、データ抽出、解析コード、原稿と図表、投稿時の開示を扱う。
扱わない範囲:
- AIを診断や治療に使う研究の評価(外傷診断支援AIをどう評価するかを参照)。AIを評価する研究の報告指針は8節で紹介するにとどめる。
- 特定の製品の優劣や推奨。製品名は、研究で評価された版と時期を示すためだけに使う。
- 医療機器プログラムの薬事、AIの開発に使う学習データの法的な整理、授業や試験でのAI利用。
1.どの工程で、どんな誤りが起きるか
本稿では誤りを三つに分ける。架空の文献(存在しない論文)、書誌の誤り(実在するが著者・年・DOI・PMIDなどが違う)、根拠の不一致(実在する文献が主張を支えていない)である。前の二つはデータベースで照合すれば見つかるが、三つ目は原文を読まないと見つからない。
表はスマートフォンでは横にスクロールして読む。
| 工程 | AIに任せやすい作業 | 起こりやすい誤り | 人が確かめて残すもの |
|---|---|---|---|
| 研究疑問 | PICOの候補、代替仮説 | 時間軸の曖昧さを残す | 適格基準、time zero、曝露を決める時点、主要評価項目 |
| 文献検索 | 同義語、検索式の案 | 架空の文献、書誌の誤り | 実行した検索式、データベース、日付、件数 |
| 選別 | 題名・抄録の一次選別 | 採るべき論文の見落とし | 人の判定との不一致と、その裁定 |
| データ抽出 | 決めた項目の表への転記 | 抜け、取り違え、原文にない値 | 原文の節・表の番号と照合した抽出表 |
| 解析 | コードのたたき台 | 除外・欠測・時間の定義の誤り | 変数定義表、対象者フロー、実行したコードと版 |
| 執筆・図表 | 構成、言い換え、翻訳 | 関連を因果に言い換える、根拠の不一致 | 数値、因果の表現、引用、図の元データ |
| 投稿 | 開示文の下書き | 使い方の書き漏れ | 投稿先の規定に沿った開示 |
本稿の解釈この表は次節以降の研究結果と方針をもとにした作業上の提案で、比較試験で確かめたものではない。研究疑問では時間軸を落とさない。外傷研究には、治療を受けるまで生存した患者だけが治療群に入る、重症ほど介入される、といった問題があり、AIが書いた「背景因子を調整した」という一文では解決しない。
2.文献の捏造と誤引用:何割が間違っていたか
対話型のAIに文献を挙げさせた研究は、2023年以降に相次いでいる。評価した版と時期が違うため、数値は条件と一緒に読む(詳細は根拠の比較表)。
- Bhattacharyya 2023:ChatGPT-3.5が医学の短い論文30本に付けた文献115件のうち、架空が47%、実在するが不正確が46%、実在かつ正確は7%だった[1]。
- WaltersとWilder 2023:2023年4月第1週にGPT-3.5とGPT-4で作らせた文献レビューで、架空の引用はGPT-3.5で55%(222件中)、GPT-4で18%(414件中)だった。実在する引用にも43%と24%で重大な誤りがあった[2]。
- Chelli 2024:2023年7月の版に系統的レビュー11件を再現させた。題名・筆頭著者・出版年のうち2項目以上が誤る「幻覚」は、GPT-3.5で39.6%(55/139)、GPT-4で28.6%(34/119)、Bardで91.4%(95/104)。元のレビューの採用論文109編を拾えた割合(再現率)は11.9%、13.7%、0%だった(いずれもP<.001)[14]。
- Linardon 2025:GPT-4oの引用176件のうち35件(19.9%)が架空で、実在する141件の45.4%に誤りがあった。架空は、研究の多いうつ病で6%、少ない身体醜形障害で29%だった[3]。
- Pastucha 2026:耳鼻咽喉科の25テーマ、文献1,947件の照合で、正確度のスコアは、最もよかったウェブ検索ありのChatGPT-4.1でも51%だった[15]。
文献が実在しても、主張を支えるとは限らない。Wuらが医療の質問800問について、回答の各文と引用元の対応を自動で判定したところ(判定は医師の合議と88.7%一致)、回答の50〜90%は引用元で全面的には裏付けられなかった。ウェブ検索つきのGPT-4o(実施日は原著に記載なし)でも、文の約30%が裏付けを欠いた[4]。
本稿の解釈新しい版ほど架空は減る傾向にあるが、なくなったとはいえない。ChatGPT-4.1やGemini 2.5 Proを含む評価でも、架空の割合は条件により0〜26%の幅があった[15]。検索と連動させても「実在するが主張を支えない引用」は残る。研究の少ない領域ほど架空が多かった結果は、報告の少ない外傷の論点でより注意がいることを示唆する(外傷領域の実測は見つからなかった)。検索そのものはPubMedや医中誌Webで実行して式・日付・件数を保存し、AIが挙げた文献はDOIやPMIDで実在を確かめたうえで、該当箇所を原文で読む。
3.論文の選別とデータ抽出:見落としとばらつきを測る
系統的レビューの選別とデータ抽出については、国内の研究者が日本版敗血症診療ガイドライン2024の臨床疑問を材料に繰り返し評価しており、海外の概念実証研究もある。
- 選別(Oami 2024):16,669件の題名・抄録をGPT-4 Turbo(2024年1月)で選別し、従来法で採用された41編を基準に比べた。感度0.75(95%CI 0.43〜0.92)、特異度0.99(0.99〜0.99)で、指示文を事後に直すと感度0.91(0.77〜0.97)になった。所要時間は100件あたり1.3分で、従来法の17.2分より短かった[5]。
- モデルの比較(Oami 2025):同じ材料で、感度はGemini 1.5 ProとClaude 3.5 Sonnetが0.94、GPT-4oが0.85だった。特異度はGPT-4oが0.97と最も高く、Claude 3.5 Sonnetは0.80だった[16]。
- データ抽出(Gartlehner 2024):Claude 2でRCT 10編の160項目を抽出し、正確度は96.3%だった[17]。
- データ抽出(Oami 2026):36件の試験で3つのモデルを3回ずつ実行した。誤りのなかった割合は背景情報で81.6〜92.4%、アウトカムで27.8〜80.7%だった。誤りの91.4%は抜けや誤記で、アウトカムの抽出が3回で一致した割合は44.8〜65.6%だった[6]。
本稿の解釈選別で致命的なのは見落としである。感度0.91は同じ材料で指示文を直した後の値で、別のテーマで再現するとは限らない。感度の高いモデルは特異度が低く、人が読む件数が増える。抽出は、効果の推定に直結するアウトカムほど誤りが多く、実行ごとに答えが変わった。人の二重チェックの片方をAIに置き換えても、不一致の裁定と数値の最終確認は人が行い、その手順を方法に書く。抽出の指示では「記載がなければ未記載とし、推測しない」「各値に原文の節・表の番号を付ける」「調整前と調整後を分ける」と指定する。
4.解析コード:動くことと正しいことは別
SeboとWangは、UCLAのStata教材から作った32の例題で、ChatGPT-5、Claude、DeepSeekに検定の選択とコマンドを答えさせた。検定の選択は全問正解だったが、コマンドの正答率は87.5〜96.9%で、考え方の取り違えなど高リスクの逸脱は、どのモデル・回でも12.5%以下と報告された。2回の回答の一致は93.8〜100%だった[7]。抄録のみ確認し、モデルの細かい版と実施時期は確認できなかった。
本稿の解釈公開教材の例題は、モデルの学習に含まれていた可能性がある。実データで起こりやすい前処理の誤り(除外すべき患者が残る、単位の違い、欠測をゼロとして扱う、観察終了時点の誤り)は測られていない。エラーなく動いたことは、正しく解析できたことを意味しない。
解析の前に変数定義表と対象者フローを作り、症例数、イベント数、欠測数、時間の範囲、重複IDを数えてから、主要な集計を別の方法で照合する。データの版、コード、パッケージの版、乱数の設定を保存し、採用したコードとデータから主要な結果を再計算できるようにする。コードを架空データで準備する場合は、架空と明記して結果に混ぜない。
5.文章・抄録・図:見分けにくく、すでに広く使われている
Gaoらは、5誌の抄録50本と、題名と誌名からChatGPT(2022年12月15日版)が作った抄録50本を比べた。盲検化した査読者は生成された抄録の68%を見抜いたが、本物の14%を生成されたものと誤判定した。AI出力の検出器のAUROCは0.94だった[18]。
利用はすでに広い。2024年のPubMed抄録の少なくとも13.5%がLLMで処理されたと推定され[19]、LLMで修正されたと推定される文の割合は計算機科学で最大22%だった[20]。いずれも集団の推定で、個々の論文の判定ではない。2024年2月16日には、AIで生成した図を含む論文が、図の性質への懸念などを理由に撤回された[21]。
本稿の解釈読み手の検出に頼るより、書き手の開示が基本になる。推敲をAIに任せると、「関連があった」が「改善させた」に、有意差なしが「同等」に変わることがある。探索的な解析の扱いや、対象外の患者への一般化も人が点検する。実測したかのような画像を生成して研究結果に使わない。
6.生成AIを使うべきでない場面
次の使い方は、研究不正、守秘義務違反、個人情報保護法違反につながり得る。
- 照合していない文献リストを、論文・申請書・発表資料に載せる。架空や誤った文献は新しい版でも残る[2][3][4]。
- 同意、契約、研究計画の範囲外で、研究対象者の情報を外部の生成AIに入力する。
- 査読や研究費の審査で預かった原稿・申請書をAIに入力する。NIHは審査での生成AIの使用を禁じ[22]、WAMEは原稿の入力を機密保持の違反としている[10]。
- 欠測値や図を生成値・生成画像で埋め、実測のように示す。存在しないデータを作ることは、文部科学省の指針が定める「捏造」に当たり得る[23]。
- 仮説・解析・結論をAIに委ね、人の成果として示す。Springer Natureの方針はこれを認めていない[24]。
- 研究費配分機関が禁じる使い方。NIHは2025年9月25日から、AIで実質的に作成された申請を研究者独自の着想と見なさない[25]。
7.開示と著者責任:何を、どこに書くか
編集者の団体は、AIは著者になれない、使い方を開示する、内容の責任は人が負う、の三点で一致している。
- ICMJE(2026年1月更新):AIは正確性・完全性・独創性に責任を持てないため著者にできず、引用の著者にもしない。投稿時にカバーレターと原稿で使い方を示し、文章の補助は謝辞に、データ収集・解析・図の作成は方法に書く。出力は誤り・不完全・偏りを含み得るため著者が確認し、AIの文章や画像を含めて盗用がないことを保証する[8]。
- COPE(2023年2月):方法(または類する節)に、どのAIをどう使ったかを示す。著者はAIが作った部分も含めて全責任を負う[9]。
- WAME(2023年5月改訂):文章の作成に使えば謝辞に記してプロンプトを示し、解析に使えば抄録と方法にプロンプト全文、日時、ツールと版を示す[10]。
具体的な規定は雑誌で違う。2023年の調査では、生成AIの指針があったのは上位100出版社の24%、上位100誌の87%で、指針のある出版社の96%、雑誌の98%がAIを著者とすることを禁じていた。一方、開示の具体的な基準を示したのは75%と43%で、開示の場所もまちまちだった[26]。
開示文には、実際に行った範囲だけを書く。研究の開始時から、①ツールの名称・版・提供元、②利用日、③用途、④入力した情報の種類(個人情報を含むか)、⑤主要なプロンプト、⑥人が確認した範囲、を記録しておく。本稿も、文献照合にAIを用いたことを冒頭の著者行に記している。
8.AIを評価する研究には、別の報告指針がある
AIで英文を推敲しただけの研究は、AIの評価研究ではない。AIの性能そのものを調べる研究では、デザインに合う報告指針を使う。
- TRIPOD-LLM(2025年):医療でLLMを用いる研究の報告指針。19の主項目と50の小項目からなり、14の主項目と32の小項目はすべての研究に適用される。3か月ごとに見直す「生きた指針」とされる[27]。
- CANGARU:学術での生成AIの利用・開示・報告の指針を作る計画で、2023年に作成の手順が公開された[28]。最終版の公表は確認できなかった(未確認)。
- 予測モデルと診断精度の研究:TRIPOD+AI(2024年)[29]、STARD-AI(2025年)[30]、PROBAST+AI(2025年、質とバイアスの評価)[31]。
報告が詳しいことと、バイアスが少ないことは別である。LLMの評価では、同じ問題を何度も試して最良の答えだけを採用しない。プロンプトを調整するデータと、最終評価のデータを分ける。
根拠の比較表
表はスマートフォンでは横にスクロールして読む。
| 出典(年) | デザイン | 対象(版・評価時期) | 課題 | 主な結果 | 限界と意味 |
|---|---|---|---|---|---|
| Bhattacharyya(2023)[1] | 横断的な評価 | ChatGPT-3.5(2023年公表。生成日は未確認) | 医学論文30本の文献115件 | 架空47%、実在だが不正確46%、正確7% | 旧版で少数。書誌の照合のみ |
| WaltersとWilder(2023)[2] | 比較評価 | GPT-3.5、GPT-4(2023年4月第1週) | レビュー84本、引用636件 | 架空55%対18%。実在する引用の重大な誤り43%対24% | 医学以外も含む |
| Chelli(2024)[14] | 比較評価 | GPT-3.5、GPT-4、Bard(2023年7月) | 系統的レビュー11件の再現 | 幻覚39.6%、28.6%、91.4%。再現率11.9%、13.7%、0% | 一領域 |
| Linardon(2025)[3] | 実験的な評価 | GPT-4o(時期は未確認) | レビュー6本、引用176件 | 架空19.9%。実在する引用の45.4%に誤り | 1モデル。研究の少ない領域で架空が多い |
| Pastucha(2026)[15] | 比較評価 | ChatGPT 4.0〜4.1、Gemini 1.5〜2.5 Pro(ウェブ検索あり含む。時期は未確認) | 耳鼻咽喉科25テーマ、文献1,947件 | 正確度のスコアは最良で51%。架空0〜26% | 抄録のみ確認。日によりばらつく |
| Wu(2025)[4] | 自動評価 | GPT-4o(ウェブ検索あり、実施日の記載なし。API版は2024年5月13日版)ほか | 医療の質問800問 | 回答の50〜90%が引用元で全面的には裏付けられず | 自動判定(医師と88.7%一致) |
| Oami(2024)[5] | 選別の精度 | GPT-4 Turbo(2024年1月7〜15日) | 敗血症GLの5疑問、16,669件 | 感度0.75(95%CI 0.43〜0.92)、特異度0.99(0.99〜0.99)。事後修正で感度0.91(0.77〜0.97)、特異度0.98(0.96〜0.99) | 事後修正は同じ材料での値。単一の領域 |
| Oami(2025)[16] | 比較評価 | GPT-4o、Gemini 1.5 Pro、Claude 3.5 Sonnet(2024年6〜7月)、Llama 3.3 70B(2025年1月) | 同上 | 感度/特異度:0.85/0.97、0.94/0.85、0.94/0.80、0.88/0.93 | 感度と特異度が逆向きに動く |
| Gartlehner(2024)[17] | 概念実証 | Claude 2(ブラウザ版。2023年8月4日の計画変更後に実施、実施月の明記なし) | RCT 10編、160項目の抽出 | 正確度96.3%(誤り6件) | 少数。連続量・多群・計算は評価外 |
| Oami(2026)[6] | 比較評価(3回実行) | ChatGPT-4o、Claude 3 Sonnet、Gemini 1.5 Pro(2024年5〜6月) | 試験36件の抽出 | アウトカムで誤りなし:64.4%(95%CI 52.3〜76.6)、80.7%(65.6〜95.9)、27.8%(3.8〜51.7) | アウトカムほど誤り、実行ごとに変動 |
| SeboとWang(2026)[7] | 比較評価(2回) | ChatGPT-5、Claude、DeepSeek(版・時期は未確認) | Stataの例題32問 | 検定の選択100%。コマンド87.5〜96.9% | 抄録のみ確認。実データの前処理は評価外 |
| Gao(2023)[18] | 盲検の比較 | ChatGPT(2022年12月15日版) | 抄録50本対生成50本 | 生成抄録の識別68%、本物の誤判定14% | 旧版 |
| Kobak(2025)[19] | 計量分析 | PubMed抄録1,500万件超(2010〜2024年) | 語彙の変化 | 2024年の抄録の13.5%以上がLLMで処理 | 集団の推定 |
| Liang(2025)[20] | 計量分析 | 論文1,121,912件(2020年1月〜2024年9月) | 語の分布 | LLMで修正された文は計算機科学で最大22% | 集団の推定 |
評価時点について:多くは2023〜2024年の版の評価で、公表時にはモデルが更新されている。数値は「その版・その課題での値」として読む。本稿で引いた数値のうち、95%CIが付いていたのはOamiらの研究だけだった。
指針の比較表
2026年9月23日に各団体の公式ページで確認した。JAMA Networkは2024年にAI利用の報告の指針を公表している[32]が、JAMA、NEJM、Lancet、Scienceの現行の投稿規定は、アクセスが遮断されて本文を確認できなかった(未確認)。Lancetの発行元Elsevierの方針は確認した。表はスマートフォンでは横にスクロールして読む。
| 主体(版・日付) | AIの著者資格 | 開示の場所と内容 | 著者の責任・禁じる使い方 | 査読・審査での利用 |
|---|---|---|---|---|
| ICMJE(2026年1月)[8] | 不可 | 謝辞(文章の補助)、方法(収集・解析・図)、カバーレター | 出力の確認、盗用がないことの保証 | 査読者は使う前に雑誌の許可を得る |
| COPE(2023年2月)[9] | 不可 | 方法(または類する節) | AIが作った部分も含め全責任 | — |
| WAME(2023年5月)[10] | 不可 | 謝辞とプロンプト。解析は抄録と方法に、プロンプト全文・日時・版 | 正確さと盗用の防止は著者の責任 | 原稿の入力は機密保持の違反 |
| Nature Portfolio(更新日の表示なし)[24] | 不可 | 判断に影響し得る使い方は開示を条件に認める | データ・引用・結果の捏造、写実的な画像の生成は不可 | 公開のAIに原稿を入れない |
| Elsevier(2026年6月)[33] | 不可 | 独立したAI宣言文(掲載される)。文法の点検は不要 | データに忠実でない図の生成は不可 | 原稿をAIに入れない |
| Wiley(2026年7月)[34] | 不可 | 投稿時に開示。文法の点検は不要 | 写真の加工に制限 | 本稿では確認していない |
| 日本外傷学会雑誌(2025年8月)[11] | 明記なし | 名称・版・製造元、使い方、プロンプト、使った箇所 | ICMJEの勧告に基づく | 明記なし |
| 医学雑誌編集ガイドライン2022[35] | AIの記載なし | — | — | — |
| NIH(2023年、2025年)[22][25] | — | — | AIで実質的に作成した申請は独自の着想と見なさない | 審査での使用を禁止 |
| 日本学術振興会、AMED | 未確認 | 未確認 | 未確認 | 未確認 |
日本で実施するとき
倫理指針
「人を対象とする生命科学・医学系研究に関する倫理指針」は、2026年9月時点では2023年3月27日の一部改正版が適用され、2026年8月27日の一部改正版が同年12月1日に施行される。施行通知が挙げる主な改正点は、インフォームド・コンセントの手続の用語の統一、仮名加工情報などの取扱いの個人情報保護法への準拠、既存の試料・情報の利用要件の見直し、多機関共同研究の一括審査の必須化などである[13]。
改正後の本文に「人工知能」「AI」の語はない(本稿で確認)。ただし、研究計画書への個人情報等の取扱い(加工の方法を含む)と保管・廃棄の方法の記載、業務の一部を委託するときの契約と監督、外国にある者へ提供するときの情報提供と同意、研究で知り得た情報の守秘は、外部の生成AIに研究対象者の情報を入力するかの判断にそのまま関わる[13]。
本稿の解釈外部サービスへの入力が委託・提供のどちらに当たるか、どちらにも当たらないかは、契約条件(入力の保存、学習への利用、保存場所)で変わり得る。個人で判断せず、研究計画書に書いて、倫理審査委員会と所属機関の担当部署に確認する。
個人情報保護法と個人情報保護委員会の注意喚起
個人情報保護委員会は2023年6月2日の注意喚起で、個人情報取扱事業者に対し、個人情報を含むプロンプトの入力は利用目的の達成に必要な範囲内であることを十分に確認すること、本人の同意なく個人データを含むプロンプトを入力し、その個人データが応答結果の出力以外の目的で取り扱われる場合は法の規定に違反することとなる可能性があること、提供事業者が機械学習に利用しないこと等を十分に確認すること、を挙げた[12]。
本稿の解釈氏名を消しても、日付、施設、珍しい受傷機転、画像内の文字などの組み合わせで個人が推定されることがある。施設内で動かすモデルも、アクセス権と保存場所の管理がなければ安全とはいえない。
医療情報の安全管理と次世代医療基盤法
厚生労働省の「医療情報システムの安全管理に関するガイドライン」は2026年6月に第7.0版となった[36]。本稿で確認した概説編に生成AIの記載はないが、外部サービスへの委託やクラウド利用の考え方は、生成AIサービスにも当てはめて検討する(本稿の解釈)。次世代医療基盤法(医療分野の研究開発に資するための匿名加工医療情報及び仮名加工医療情報に関する法律)の枠組みで提供を受けた情報を、生成AIに入力してよいかは確認できなかった(未確認)[37]。AIの開発に診療データを使う場合の整理は、作成班による別の指針にまとめられている(生成AIの法的リスクやその対策は対象外とし、今後の課題としている)[38]。
学会・医学雑誌・研究費配分機関
- 日本外傷学会雑誌の投稿規定(2025年8月5日改定)は、執筆の過程でAIを使った場合に、生成AIの名称・バージョン・製造元、使用方法、プロンプト、使った箇所の開示を求め、ICMJEの勧告に基づくとしている[11]。
- 日本医学会の「医学雑誌編集ガイドライン2022」にAIの記載はなく、著者は研究への貢献、執筆・校閲、最終版の承認、説明責任への同意の4基準を満たす者とされる[35]。生成AIに関する独立した声明は見つからなかった(未確認)。
- 日本救急医学会の和文誌・英文誌の投稿規定はWiley社のサイトにあり、取得できなかった(未確認)。両誌を掲載するWiley社の一般的な指針は、AIを著者と認めず、投稿時の開示を求めている[34]。
- 日本学術振興会(科研費)とAMEDの公式ページでは、生成AIに関する規定を見つけられなかった。審査の手引と公募要領は確認しておらず、使う前にその年度の資料を確かめる。NIHは審査での使用を禁じ、AIで実質的に作成された申請を独自の着想と見なさない方針を示している[22][25]。
研究不正・著作権・事業者向けの指針
- 文部科学大臣決定の指針は、捏造を「存在しないデータ、研究結果等を作成すること」と定め、故意または研究者としての基本的な注意義務を著しく怠ったことによる行為を対象とする[23]。
- 文化審議会著作権分科会法制度小委員会の「AIと著作権に関する考え方について」(2024年3月15日)は、生成物の利用が著作権侵害に当たるかは類似性と依拠性で判断されるとした[39]。
- 総務省・経済産業省の「AI事業者ガイドライン」(第1.2版、2026年3月31日)は、AIの開発・提供・利用に関わる事業者向けの指針で、医学研究に特化したものではない[40]。
施設で決めておくこと
本稿の解釈研究室や施設で、次を文書にしておくことを提案する。
- 使ってよい生成AIサービスと契約条件(入力を学習に使わないこと、保存期間と保存場所、アクセス権)。
- 入力してよい情報の区分(公開文献と自作の原稿、仮名加工した情報、個人情報)。個人情報を扱う場合は研究計画書に書き、倫理審査を受ける。
- 記録の様式(ツールの名称・版、利用日、用途、入力した情報の種類、主要なプロンプト、人が確認した範囲)。
- 査読、研究費の審査、学内審査で預かった書類をAIに入力しない規則。
- 投稿の前に、投稿先の規定と共著者全員の合意で開示文を確定する手順。
まだ分からないこと
- 研究の質は上がるのか。研究者を無作為に割り付けて、AIの補助による誤り・再現性・所要時間の変化を比べた研究は、本稿の確認範囲になかった。
- 最新のモデルでの誤り。評価の多くは2023〜2024年の版で、より新しい版(ChatGPT-5、ChatGPT-4.1、Gemini 2.5 Proなど)の評価は少なく、課題も限られる[15][7]。
- 外傷領域と日本語文献。外傷の論点や医中誌Webでの選別・抽出の精度を測った研究は見つからなかった。国内の評価は敗血症の材料に限られる[5][16][6]。
- 国内の規定。日本学術振興会、AMED、日本医学会、日本救急医学会の学会誌の生成AIに関する規定は確認できなかった。
- 改正倫理指針での扱い。外部の生成AIへの入力の位置づけについて、公的な解釈(ガイダンス・Q&A)は確認できなかった。
まとめ
生成AIは研究の下書きと作業を速くする。ただし実測された誤りは、架空の文献、引用元が支えない主張、採るべき論文の見落とし、原著にない数値、方法の取り違えという、研究の信頼を直接損なう種類のものだった。任せる工程を決め、出力は原文とデータで確かめ、使い方を記録して開示する。研究対象者の情報は、研究計画と倫理審査を通して扱う。速く書くことと、他の研究者が確かめられることを両立させる使い方を目指したい。
関連記事
- 外傷診断支援AIをどう評価するか:ERATSの講演から考える精度・臨床効果・社会実装
- 鈍的頸部血管損傷(BCVI):脳梗塞の前に見つけ、抗血栓治療へつなぐ(信頼区間と観察研究の限界を読む例)
- 外傷性凝固障害(TIC)とは?なぜ脳・肺損傷で悪化するのか
- PTD ZEROの学び方:根拠の読み方
- このサイト・著者について:AIの利用と記事の確認方針
- ベルの休憩室(研究協力の案内)
- 若手外科医の手術の入り方|予定手術をACS・外傷外科のトレーニングに変える
文献
- Bhattacharyya M, Miller VM, Bhattacharyya D, Miller LE. High rates of fabricated and inaccurate references in ChatGPT-generated medical content. Cureus. 2023;15(5):e39238. doi:10.7759/cureus.39238. PMID: 37337480.
- Walters WH, Wilder EI. Fabrication and errors in the bibliographic citations generated by ChatGPT. Sci Rep. 2023;13:14045. doi:10.1038/s41598-023-41032-5. PMID: 37679503.
- Linardon J, Jarman HK, McClure Z, Anderson C, Liu C, Messer M. Influence of topic familiarity and prompt specificity on citation fabrication in mental health research using large language models: experimental study. JMIR Ment Health. 2025;12:e80371. doi:10.2196/80371. PMID: 41223407.
- Wu K, et al. An automated framework for assessing how well LLMs cite relevant medical references. Nat Commun. 2025;16:3615. doi:10.1038/s41467-025-58551-6. PMID: 40240349.
- Oami T, Okada Y, Nakada TA. Performance of a large language model in screening citations. JAMA Netw Open. 2024;7(7):e2420496. doi:10.1001/jamanetworkopen.2024.20496. PMID: 38976267.
- Oami T, Okada Y, Maeda K, Nakada TA. Performance of large language models and prompt engineering strategies for data extraction in systematic reviews. Front Digit Health. 2026;8:1799623. doi:10.3389/fdgth.2026.1799623. PMID: 42137114.
- Sebo P, Wang T. Evaluating the performance of ChatGPT-5, Claude, and DeepSeek for statistical analysis in medicine. Intern Emerg Med. 2026;21(4):1227-1237. doi:10.1007/s11739-026-04291-4. PMID: 41746546.
- International Committee of Medical Journal Editors. Recommendations for the Conduct, Reporting, Editing, and Publication of Scholarly Work in Medical Journals(Updated January 2026). https://www.icmje.org/icmje-recommendations.pdf;Use of AI by Authors https://www.icmje.org/recommendations/browse/artificial-intelligence/ai-use-by-authors.html(2026年9月23日閲覧).
- Committee on Publication Ethics. Authorship and AI tools(COPE position statement、2023年2月13日). https://publicationethics.org/guidance/cope-position/authorship-and-ai-tools(2026年9月23日閲覧).
- Zielinski C, Winker MA, Aggarwal R, et al. Chatbots, generative AI, and scholarly manuscripts: WAME recommendations on chatbots and generative artificial intelligence in relation to scholarly publications(2023年5月31日改訂). World Association of Medical Editors. https://wame.org/page3.php?id=106(2026年9月23日閲覧).
- 日本外傷学会. 日本外傷学会雑誌 投稿規定(2025年8月5日改定). https://jast-hp.org/wp-content/themes/jast/libs/img/contribute_provisions.pdf(2026年9月23日閲覧).
- 個人情報保護委員会. 生成AIサービスの利用に関する注意喚起等(2023年6月2日). https://www.ppc.go.jp/news/careful_information/230602_AI_utilize_alert/;別添1 https://www.ppc.go.jp/files/pdf/230602_alert_generative_AI_service.pdf(2026年9月23日閲覧).
- 文部科学省・厚生労働省・経済産業省. 人を対象とする生命科学・医学系研究に関する倫理指針(令和3年3月23日告示、令和5年3月27日一部改正)、および令和8年8月27日一部改正(令和8年12月1日施行)の本文と施行通知. 厚生労働省 https://www.mhlw.go.jp/stf/seisakunitsuite/bunya/hokabunya/kenkyujigyou/i-kenkyu/index.html;改正後本文 https://www.mhlw.go.jp/content/001743409.pdf;施行通知 https://www.mhlw.go.jp/content/001743404.pdf(2026年9月23日閲覧).
- Chelli M, Descamps J, Lavoué V, Trojani C, Azar M, Deckert M, et al. Hallucination rates and reference accuracy of ChatGPT and Bard for systematic reviews: comparative analysis. J Med Internet Res. 2024;26:e53164. doi:10.2196/53164. PMID: 38776130.
- Pastucha M, Skarżyński H, Kochanek K, Jędrzejczak WW. Reference accuracy in large language model chatbots: a metric for inherent misinformation? Med Sci Monit. 2026;32:e950916. doi:10.12659/MSM.950916. PMID: 41546380.
- Oami T, Okada Y, Nakada TA. Optimal large language models to screen citations for systematic reviews. Res Synth Methods. 2025;16(6):859-875. doi:10.1017/rsm.2025.10014. PMID: 41626985.
- Gartlehner G, Kahwati L, Hilscher R, et al. Data extraction for evidence synthesis using a large language model: a proof-of-concept study. Res Synth Methods. 2024;15(4):576-589. doi:10.1002/jrsm.1710. PMID: 38432227.
- Gao CA, Howard FM, Markov NS, et al. Comparing scientific abstracts generated by ChatGPT to real abstracts with detectors and blinded human reviewers. NPJ Digit Med. 2023;6:75. doi:10.1038/s41746-023-00819-6. PMID: 37100871.
- Kobak D, González-Márquez R, Horvát EÁ, Lause J. Delving into LLM-assisted writing in biomedical publications through excess vocabulary. Sci Adv. 2025;11(27):eadt3813. doi:10.1126/sciadv.adt3813. PMID: 40601754.
- Liang W, Zhang Y, Wu Z, et al. Quantifying large language model usage in scientific papers. Nat Hum Behav. 2025;9(12):2599-2609. doi:10.1038/s41562-025-02273-8. PMID: 40760036.
- Retraction: Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway. Front Cell Dev Biol. 2024(2024年2月16日公表の撤回公告). doi:10.3389/fcell.2024.1386861. 撤回された論文:doi:10.3389/fcell.2023.1339390.
- National Institutes of Health. NOT-OD-23-149: The Use of Generative Artificial Intelligence Technologies is Prohibited for the NIH Peer Review Process(2023年6月23日). https://grants.nih.gov/grants/guide/notice-files/NOT-OD-23-149.html(2026年9月23日閲覧).
- 文部科学大臣決定. 研究活動における不正行為への対応等に関するガイドライン(2014年8月26日). https://www.mext.go.jp/b_menu/houdou/26/08/__icsFiles/afieldfile/2014/08/26/1351568_02_1.pdf(2026年9月23日閲覧).
- Springer Nature. Artificial Intelligence (AI). Nature Portfolio editorial policies(更新日の表示なし). https://www.nature.com/nature-portfolio/editorial-policies/ai(2026年9月23日閲覧).
- National Institutes of Health. NOT-OD-25-132: Supporting Fairness and Originality in NIH Research Applications(2025年7月17日公表、同年9月25日発効). https://grants.nih.gov/grants/guide/notice-files/NOT-OD-25-132.html(2026年9月23日閲覧).
- Ganjavi C, Eppler MB, Pekcan A, et al. Publishers’ and journals’ instructions to authors on use of generative artificial intelligence in academic and scientific publishing: bibliometric analysis. BMJ. 2024;384:e077192. doi:10.1136/bmj-2023-077192. PMID: 38296328.
- Gallifant J, et al. The TRIPOD-LLM reporting guideline for studies using large language models. Nat Med. 2025;31(1):60-69. doi:10.1038/s41591-024-03425-5. PMID: 39779929.
- Cacciamani GE, Eppler MB, Ganjavi C, Pekan A, Biedermann B, Collins GS, Gill IS. Development of the ChatGPT, Generative Artificial Intelligence and Natural Large Language Models for Accountable Reporting and Use (CANGARU) guidelines. arXiv:2307.08974(2023年7月18日投稿). https://arxiv.org/abs/2307.08974.
- Collins GS, et al. TRIPOD+AI statement: updated guidance for reporting clinical prediction models that use regression or machine learning methods. BMJ. 2024;385:e078378. doi:10.1136/bmj-2023-078378. PMID: 38626948.
- Sounderajah V, et al. The STARD-AI reporting guideline for diagnostic accuracy studies using artificial intelligence. Nat Med. 2025;31(10):3283-3289. doi:10.1038/s41591-025-03953-8. PMID: 40954311.
- Moons KGM, et al. PROBAST+AI: an updated quality, risk of bias, and applicability assessment tool for prediction models using regression or artificial intelligence methods. BMJ. 2025;388:e082505. doi:10.1136/bmj-2024-082505. PMID: 40127903.
- Flanagin A, Pirracchio R, Khera R, Berkwits M, Hswen Y, Bibbins-Domingo K. Reporting use of AI in research and scholarly publication—JAMA Network guidance. JAMA. 2024;331(13):1096. doi:10.1001/jama.2024.3471. PMID: 38451540.
- Elsevier. Generative AI policies for journals(Policy updated June 2026). https://www.elsevier.com/about/policies-and-standards/generative-ai-policies-for-journals(2026年9月23日閲覧).
- Wiley. Ethics guidelines(AIに関する項。2026年7月更新と表示). https://authors.wiley.com/ethics-guidelines/index.html(2026年9月23日閲覧).
- 日本医学会 日本医学雑誌編集者会議(JAMJE). 日本医学会 医学雑誌編集ガイドライン2022(2022年3月). https://jams.med.or.jp/guideline/jamje_2022.pdf(2026年9月23日閲覧).
- 厚生労働省. 医療情報システムの安全管理に関するガイドライン 第7.0版(令和8年6月). https://www.mhlw.go.jp/stf/shingi/0000516275_00006.html;概説編 https://www.mhlw.go.jp/content/10808000/001716290.pdf(2026年9月23日閲覧).
- 内閣府 健康・医療戦略推進事務局. 次世代医療基盤法(医療分野の研究開発に資するための匿名加工医療情報及び仮名加工医療情報に関する法律). https://www8.cao.go.jp/iryou/index.html;関係法令・ガイドライン https://www8.cao.go.jp/iryou/hourei/hourei.html(2026年9月23日閲覧).
- 医療デジタルデータのAI研究開発等への利活用に係るガイドライン作成班. 医療デジタルデータのAI研究開発等への利活用に係るガイドライン(令和6年3月31日). 厚生労働省掲載 https://www.mhlw.go.jp/content/001310044.pdf(2026年9月23日閲覧).
- 文化審議会著作権分科会法制度小委員会. AIと著作権に関する考え方について(2024年3月15日). https://www.bunka.go.jp/seisaku/bunkashingikai/chosakuken/pdf/94037901_01.pdf;文化庁「AIと著作権」 https://www.bunka.go.jp/seisaku/chosakuken/aiandcopyright.html(2026年9月23日閲覧).
- 総務省・経済産業省. AI事業者ガイドライン(第1.2版、2026年3月31日). 経済産業省 https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/index.html(2026年9月23日閲覧).
医学的内容の最終確認日・確認範囲
文献ごとの確認範囲を開く(最終確認日:2026年9月25日)
医学的内容の最終確認日:2026年9月25日(著者確認)。文献照合日:2026年9月23日(文献検索も同日)。PubMedとPMC、JAMA Network、NEJM、Science、Lancet、Wiley Online Libraryのサイトは開けなかったため、書誌と抄録はOpenAlex、出版社、学会、公的機関の公式ページで確認した。検索記録は編集部で保管している。
- 全文を確認:[2] [4] [5] [6] [14] [16] [18] [27]。
- 抄録のみ確認:[1] [3] [7] [15] [17] [19] [20] [26] [28]。[3]と[26]はOpenAlex(文献データベース)が公開する抄録の単語データから復元した抄録で読み、[3]は出版社の報道発表と数値を照合した。[17]の対象範囲はプレプリントの全文で確認した(実施時期の明記はない)。本文中の数値は抄録にある範囲に限った。
- 書誌情報のみ確認:[29] [30] [31] [32]。[32]は本文を取得できず、内容は記載していない。
- 公式情報を確認:[8] [9] [10] [11] [12] [13] [22] [23] [24] [25] [33] [34] [35] [36] [37] [38] [39] [40]、撤回公告[21]。[13]は改正後の本文と施行通知、[36]は掲載ページと概説編を確認した。
- 未取得:JAMA、NEJM、Lancet、Scienceの現行の投稿規定、日本救急医学会の和文誌・英文誌の投稿規定、日本学術振興会とAMEDの審査の手引・公募要領、改正倫理指針のガイダンス、生成AI研究の報告指針をまとめたHuoら(npj Digital Medicine、2025年。接続の制限で取得できなかった)。
更新履歴
更新履歴を開く(全4件・最新:2026年9月26日)
- 2026年9月26日(表記):確認範囲の記載を読者向けの表現に改め、関連記事へのリンクを加えた(医学的内容は変えていない)。
- 2026年9月25日(著者確認):著者(医師)が数値・用量・適用条件を含む医学的内容を確認した。確認日の表記を更新した。
- 2026年9月23日(改訂):全面改訂。生成AIの誤りを実測した研究(架空・誤った文献、引用元が主張を支えない割合、論文の選別とデータ抽出の精度、解析コード、抄録の見分けにくさ、論文での利用の広がり)の数値と、評価された版・時期を加えた。根拠の比較表、編集者団体・出版社・研究費配分機関の方針の比較表、生成AIを使うべきでない場面、「日本で実施するとき」(倫理指針と2026年8月の改正、個人情報保護委員会の注意喚起、医療情報の安全管理、次世代医療基盤法、国内の学会誌と研究費配分機関の規定)、文献ごとの確認範囲を追加した。記事の冒頭を要旨から始める形に改めた。理由:AIの誤りの頻度を示す実測データと国内の規程の記載が不足し、主張が経験則に偏っていたため。
- 2026年9月20日(初回公開):教育講演「医学系研究における生成AI活用」の提供資料を出発点に、AI利用の工程、報告指針(TRIPOD+AI、TRIPOD-LLM、STARD-AI、PROBAST+AI)、ICMJEの著者責任を解説する記事として公開した(文献確認日:2026年9月19日)。
本記事は医療従事者への教育および一般的な医学情報の提供を目的としており、個々の患者に対する診断・治療を代替するものではありません。実際の診療では、各施設のプロトコルおよび最新の診療ガイドラインをご確認ください。
利益相反:本記事に関連して開示すべき利益相反はありません。


コメント
コメント一覧 (1件)
[…] 医学研究で生成AIを使う […]