Lei Ma 研究室
主宰者：Lei Ma
東京大学
AI 要約（直近 5 年の研究成果）
Lei Ma 研究室の研究内容について
Lei Ma研究室では、機械学習やAI技術の信頼性と安全性の確保に焦点を当てた研究を行っています。特に大規模言語モデル（LLM）や深層学習システムが直面する課題に取り組んでおり、これらのモデルがどの程度信頼できるのか、またどのような失敗パターンを示すのかを明らかにすることを目指しています。研究の問いとしては、LLMの生成結果の不正確さや「幻覚（実際ではない情報の生成）」、コード生成時の誤りなど、AIシステムの振る舞いを包括的に理解し評価することにあります。
手法としては、複数のアプローチを組み合わせています。LLMの内部状態の分析やモデルの不確実性を測定する方法を用いて、システムの予測信頼度を評価しています。また、テスト生成やシナリオベースの検証を通じて、AI システムの弱点を発見する研究も行っています。さらに注目すべきは、自動運転や視覚認識システムなど実世界の重要な応用分野を対象にテスト手法を開発している点です。
主要な発見としては、現在のLLMやAIモデルが予期しない状況や分布のシフトに対して脆弱性を持つこと、またモデルの内部的な特性を調べることで潜在的な失敗をある程度予測できる可能性があることが示されています。これらの研究成果は、AI技術をより安全に実社会に適用するための基盤を提供しています。
※ AI（Claude）が、公開されている論文要旨から研究の問い・手法・主要な発見を事実情報として抽出・再構成して自動生成しています。誤りを含む可能性があるため、正確性は研究室公式情報でご確認ください。
外部リンク
関連研究室(8 件)
- 計算機科学Kiyoharu Aizawa 研究室東京大学論文 133 件·共通: 深層学習, ネットワーク, ネットワーク・セキュリティ, AI・機械学習 +10
- 計算機科学Takahiro Ogawa 研究室北海道大学論文 103 件·共通: 深層学習, AI・機械学習, 機械学習, 機械 +10
- 工学Ryo Natsuaki 研究室東京大学論文 181 件·共通: 深層学習, AI・機械学習, 機械学習, 機械 +10
- 計算機科学Masahiro Oda 研究室名古屋大学論文 100 件·共通: 深層学習, AI・機械学習, 機械学習, 機械 +7
- 心理学Zilu Liang 研究室東京大学論文 148 件·共通: AI・機械学習, 機械学習, 機械, 学習 +9
- 医学Toshihisa Anzai 研究室北海道大学論文 101 件·共通: AI・機械学習, 機械学習, 機械, 学習 +9
- 計算機科学Hiroshi Saruwatari 研究室東京大学論文 189 件·共通: 深層学習, AI・機械学習, 学習, システム +8
- 工学Masayuki Inaba 研究室東京大学論文 100 件·共通: IoT, ネットワーク, ネットワーク・セキュリティ, システム +5
研究成果（98 件）
- DOI: https://doi.org/10.1109/tr.2026.3705058
- DOI: https://doi.org/10.1145/3822511
- DOI: https://doi.org/10.18653/v1/2025.acl-long.87
- DOI: https://doi.org/10.1016/j.neunet.2025.108376
- DOI: https://doi.org/10.1145/3696630.3728566
- DOI: https://doi.org/10.1109/se4ads66461.2025.00008
- DOI: https://doi.org/10.1088/3050-2454/adcef2
- DOI: https://doi.org/10.1109/tse.2025.3627580
- DOI: https://doi.org/10.1002/itl2.70155
- DOI: https://doi.org/10.1002/smr.70057
続きを表示（残り 88 件）閉じる
- DOI: https://doi.org/10.21437/interspeech.2025-203
- DOI: https://doi.org/10.1145/3744340
- DOI: https://doi.org/10.1117/12.3069129
- DOI: https://doi.org/10.1145/3728876
- DOI: https://doi.org/10.1145/3729343
- DOI: https://doi.org/10.1145/3729346
- DOI: https://doi.org/10.1109/icahn67688.2025.00024
- DOI: https://doi.org/10.1145/3735553
- DOI: https://doi.org/10.1145/3715693
- DOI: https://doi.org/10.1364/oe.559318
- [2025] <i>Look Before You Leap:</i> An Exploratory Study of Uncertainty Analysis for Large Language ModelsDOI: https://doi.org/10.1109/tse.2024.3519464
- DOI: https://doi.org/10.1145/3643676
- DOI: https://doi.org/10.1109/aicit62434.2024.10730707
- DOI: https://doi.org/10.1109/tse.2024.3470368
- DOI: https://doi.org/10.1109/slt61566.2024.10832339
- DOI: https://doi.org/10.1145/3702983
- DOI: https://doi.org/10.1109/tmm.2024.3443613
- DOI: https://doi.org/10.1145/3660807
- DOI: https://doi.org/10.1109/tse.2024.3411928
- DOI: https://doi.org/10.1109/cvprw63382.2024.00564
- [2024] ISR-LLM: Iterative Self-Refined Large Language Model for Long-Horizon Sequential Task PlanningDOI: https://doi.org/10.1109/icra57147.2024.10610065
- DOI: https://doi.org/10.1145/3643691.3648586
- DOI: https://doi.org/10.1145/3639477.3639740
- DOI: https://doi.org/10.1145/3639478.3643063
- [2024] MultiTest: Physical-Aware Object Insertion for Testing Multi-sensor Fusion Perception SystemsDOI: https://doi.org/10.1145/3597503.3639191
- DOI: https://doi.org/10.1109/icassp48485.2024.10448394
- DOI: https://doi.org/10.1109/tse.2024.3376964
- DOI: https://doi.org/10.1145/3641543
- DOI: https://doi.org/10.1145/3643678
- DOI: https://doi.org/10.1145/3664647.3680638
- DOI: https://doi.org/10.1007/s10664-022-10262-y
- DOI: https://doi.org/10.1145/3611643.3616325
- DOI: https://doi.org/10.1145/3611643.3616370
- DOI: https://doi.org/10.1145/3628159
- DOI: https://doi.org/10.1109/tmm.2023.3318317
- DOI: https://doi.org/10.1109/tiv.2023.3322099
- DOI: https://doi.org/10.1016/j.mechatronics.2023.103060
- DOI: https://doi.org/10.1109/ase56229.2023.00196
- DOI: https://doi.org/10.1109/ase56229.2023.00153
- DOI: https://doi.org/10.1109/ase56229.2023.00107
- DOI: https://doi.org/10.1145/3617168
- DOI: https://doi.org/10.1145/3585005
- DOI: https://doi.org/10.1609/aaai.v37i12.26779
- DOI: https://doi.org/10.1109/tse.2023.3282981
- DOI: https://doi.org/10.1109/cvpr52729.2023.01181
- [2023] CodeBERT‐Attack: Adversarial attack against source code deep learning models via pre‐trained modelDOI: https://doi.org/10.1002/smr.2571
- DOI: https://doi.org/10.1109/icassp49357.2023.10096467
- DOI: https://doi.org/10.1109/icse48619.2023.00152
- [2023] HighBoostNet: a deep light-weight image super-resolution network using high-boost residual blocksDOI: https://doi.org/10.1007/s00371-023-02835-9
- DOI: https://doi.org/10.1109/icse-nier58687.2023.00007
- DOI: https://doi.org/10.1145/3591870
- DOI: https://doi.org/10.1145/3579642
- DOI: https://doi.org/10.1109/tse.2022.3233901
- DOI: https://doi.org/10.3934/era.2023306
- DOI: https://doi.org/10.1007/s10664-022-10221-7
- DOI: https://doi.org/10.1109/icpee56418.2022.10050328
- DOI: https://doi.org/10.1109/issrew55968.2022.00026
- DOI: https://doi.org/10.1109/mmsp55362.2022.9948963
- [2022] FalsifAI: Falsification of AI-Enabled Hybrid Control Systems Guided by Time-Aware Coverage CriteriaDOI: https://doi.org/10.1109/tse.2022.3194640
- DOI: https://doi.org/10.1007/s10664-022-10158-x
- [2022] Vulpedia: Detecting vulnerable ethereum smart contracts via abstracted vulnerability signaturesDOI: https://doi.org/10.1016/j.jss.2022.111410
- DOI: https://doi.org/10.1016/j.patcog.2022.108864
- DOI: https://doi.org/10.1109/tdsc.2022.3182373
- DOI: https://doi.org/10.1007/s11263-022-01606-8
- [2022] An efficient salp swarm algorithm based on scale-free informed followers with self-adaption weightDOI: https://doi.org/10.1007/s10489-022-03438-y
- DOI: https://doi.org/10.1109/icse-seip55303.2022.9794128
- DOI: https://doi.org/10.1145/3511598
- DOI: https://doi.org/10.1145/3506695
- DOI: https://doi.org/10.1145/3511887
- [2022] FalsifAI: Falsification of AI-Enabled Hybrid Control Systems Guided by Time-Aware Coverage CriteriaDOI: https://doi.org/10.5281/zenodo.6464099
- DOI: https://doi.org/10.1145/3490489
- DOI: https://doi.org/10.3233/jcm-226625
- DOI: https://doi.org/10.1007/s10489-020-02081-9
- DOI: https://doi.org/10.1016/j.microrel.2021.114116
- DOI: https://doi.org/10.3969/j.issn.1000-5641.201922018
- [2021] Influence of high temperature degaussing on lifting capacity of linear motor reciprocating pumpDOI: https://doi.org/10.1088/1742-6596/2109/1/012009
- DOI: https://doi.org/10.1145/3474085.3475171
- DOI: https://doi.org/10.1109/tcsvt.2021.3116976
- DOI: https://doi.org/10.1109/issre52982.2021.00030
- DOI: https://doi.org/10.1109/issrew53611.2021.00057
- [2021] Modeling and Durability Behavior of Erosion–Corrosion of Sand Control Screens in Deepwater Gas WellsDOI: https://doi.org/10.1021/acsomega.1c02960
- DOI: https://doi.org/10.1109/tr.2021.3096332
- DOI: https://doi.org/10.1609/aaai.v35i13.17391
- DOI: https://doi.org/10.1109/icse43902.2021.00048
- DOI: https://doi.org/10.1109/tnnls.2021.3072166
- DOI: https://doi.org/10.1109/q-se52541.2021.00011
科研費（0 件）
まだデータがありません（KAKEN 取り込み後に表示）。
所属学会・役職（0 件）
まだデータがありません（学会データ連携後に表示）。