PEシリーズ交流勉強会〜『生成AIの安全性入門』出版記念×AI高速化〜

Tue, 08 Sep 2026 00:00:00 +0000

2026年9月8日に開催されたにおいて、「JAI-Trust　日本の生成AIの安全性とセキュリティーのベンチマーク構築プロジェクト」と題して、プロジェクトを紹介する講演が行われました。

子どもにとって安全なLLMとは？〜想定応答に対する人手評価とLLM-as-a-judgeの比較分析〜

Mon, 17 Aug 2026 00:00:00 +0000

野村瑛吉 (横国大), 杉山弘晃 (AISI), 黒田麻衣子 (山陽学園大), 清水良太郎 (早大), 高橋史 (信州大), 高見享佑 (大教大), 安藤祐介 (みんなのコード), 中山功太 (NII LLMC), 森辰則 (横国大)，“子どもにとって安全なLLMとは？〜想定応答に対する人手評価とLLM-as-a-judgeの比較分析〜”, 第21回言語処理若手シンポジウム(YANS2026), 2026年8月

法令に基づくローカライゼーションによる社会的バイアス評価

Fri, 17 Jul 2026 00:00:00 +0000

金子正弘, 松田寛, 鈴木久美, 関根聡, “法令に基づくローカライゼーションによる社会的バイアス評価”, 人工知能学会全国大会論文集, 2026, JSAI2026 巻, 第40回 (2026), セッションID 2M4-GS-11a-04, p. 2M4GS11a04, 公開日 2026/07/17, Online ISSN 2758-7347, , ,

抄録

大規模言語モデルは差別的な社会的バイアスを含む情報を生成するリスクがあり，その評価が必要である．しかし，何を「差別的な社会的バイアス」とみなすかは社会的文脈に依存するため，普遍的な価値基準を定義することは難しく，個々の社会的文脈において合意可能な価値基準に基づいた安全性担保を行う必要がある．社会的バイアスのベンチマーク構築に関する先行研究では，社会的文脈の一つである国による価値基準の相違に対応するため，当該国のアノテーターを用いてローカライゼーションを行っているが，この手法はアノテーターの主観に強く依存しており，安全性の判断が当該国において合意可能なものであることを明確には担保していない．本研究では，各国において合意された「差別的な社会的バイアス」の最低限の基準として，法令とその判例等を根拠とする安全性担保のローカライゼーションを提案し，日本の雇用関連領域および医療提供関連領域の法令において差別と判断された事例を収集して，社会的バイアスデータセット - JLawBias を構築し，6つの日本語対応LLMに対して簡易な評価を実施して手法の有効性を確認した．

bibtex

@article{金子正弘2026,
 title={法令に基づくローカライゼーションによる社会的バイアス評価},
 author={金子 正弘 and 松田 寛 and 鈴木 久美 and 関根 聡},
 journal={人工知能学会全国大会論文集},
 volume={JSAI2026},
 number={ },
 pages={2M4GS11a04-2M4GS11a04},
 year={2026},
 doi={10.11517/pjsai.JSAI2026.0_2M4GS11a04}
}

Achievements | JAI-Trust

PEシリーズ交流勉強会〜『生成AIの安全性入門』出版記念×AI高速化〜

子どもにとって安全なLLMとは？〜想定応答に対する人手評価とLLM-as-a-judgeの比較分析〜

法令に基づくローカライゼーションによる社会的バイアス評価

抄録

bibtex