mz-logo

豆蔵デベロッパーサイト

開発に役立つチュートリアルやテクニック・ノウハウを豆蔵メンバーがご紹介します!

記事のタグから検索 ...(全てのタグを表示)

本サイトは本家の豆蔵ホームページではありません。会社概要、製品紹介等はこちら、 募集中の求人情報はこちらをご覧ください。

mameka豆香の豆知識 image for mameka column
AIは腹割って話せ!豆香のGoogle Cloud AI Explainability Toolkit大冒険
やっほー、豆香だよ!最近うちの子(自作の画像認識モデル)が「犬と猫の区別?楽勝っしょ」とイキってるんだけど、判定理由を聞くと急に黙りこくるんだよね…おいおい、口を割れ!ってことで飛び込んだのが Google Cloud AI Explainability Toolkit。こいつ、AIの心の中を透視するエスパー道具みたいでワクワクが止まらん!
まず Integrated Gradients をぶっ放すと、モデルが注目してるピクセルが熱々のヒートマップで現れる。うちの子、犬画像なのに背景の芝生ばっか見てやがった…それ犬ちゃう、草や!思わずズッコケ三連発。ここで「フェアネス?知らんがな」じゃ困るから、Counterfactual Examples で人種や性別を微妙に変えた画像を投入。もし出力がブレたら偏見アラートがピコーン!うちの子、どうやら茶色い毛並みに甘々だったみたい。茶髪推しの謎フェチかよっ。
さらに What-If Tool と組み合わせれば、GUI上でパラメータをグリグリ動かして即結果チェック。調教師気分で「ほら正解言え!」と追い込みかけると、モデルが徐々に正しい特徴へ意識をシフト。透明性を高めるたびに精度も上がるから、まるでツンデレが素直になってく瞬間を見てるみたいでキュン死。
もちろん説明性を公開する責任も忘れちゃダメ。ダッシュボードでヒートマップやSHAP値をチーム全員にシェアすれば、「なんでこの予測?」の質問攻撃も一網打尽。上司の酸っぱい顔もニコニコ変換、プレゼン後に焼き鳥おごってくれたぜイエーイ。
結論!ブラックボックスAIを放置すると、ユーザーの信頼はコゲついたトースト並みにカッチカチ。Google Cloud AI Explainability Toolkitで中身をスケスケにし、偏見をボッコボコに殴り、みんなで安心してAIと手をつなごう。次は誰のモデルを丸裸にする?応募待ってるぞ〜っ!
※本コラムはAIで生成したものです。内容の正確性を保証するものではありません。
過去のコラムはこちらから!

新着記事new-articles全ての記事を見る

  • | ブログ | 15 min read
    #2026年 #MCP #typescript

    MCP 2026-07-28 RC解説:ステートレス化がもたらすAIエージェント実装

    はじめに # Model Context Protocol (MCP) は、2024年11月の初版リリース以来、AIモデルと外部データ・機能を接続する標準プロトコルとして急速に進化してきました。 今回の2026-07-28 Release Candidate(以下、RC)は、単なる機能追加ではなく、プロトコルの実運用前提を大きく変える改訂です。 とくに注目すべきは、プロトコル層のステートレス化です...

    記事を読む
  • | ブログ | 11 min read
    #2026年 #Deno Desktop #Tauri #electron #Deno

    Deno 2.9 で登場したデスクトップ機能 (Deno Desktop) - Electron / Tauri との違いを実感

    はじめに # Deno 2.9 リリースおめでとうございます。 Deno 2.9 | Deno Electron 大好きな自分としても気になるのはやはり Deno Desktop です。 Tauri と同様 WebView をバックエンドにする構成と Electron と同様 Chromium ベースの構成を選べるとのことで、これは試すしかないと思いました。 公式ドキュメントは以下にあります...

    記事を読む
  • | ブログ | 7 min read
    #2026年 #AI #生成AI

    人工知能学会2026参加記 — 発表と学会で見えたAI研究の流れ

    はじめに # AIテクニカルセクターの藤堂です。セクターが独立組織となって以降、全社でAI活用を広げる取り組みが本格化しています。そのような中、6月には第40回 JSAI2026に参加しました。 前半ではポスター発表をした、士業資格試験を対象としたLLMベンチマークShigyoBenchについて簡単に触れ、AIの実用化についての所感を述べます。 後半では、人工知能学会で印象に残った発表と、今後のAI研究について思ったことを記します...

    記事を読む
  • | ブログ | 3 min read
    #2026年 #retrospective

    豆蔵デベロッパーサイト 2026年4-6月のサマリー

    今年も半分が過ぎました。2026年4-6月のサマリーです。 記事数・執筆者数 # この3ヶ月で13本の記事が投稿され、記事数は889になりました。 連載 # AIエージェントとシステムをつなぐMCP入門 # MCP(Model Context Protocol) は AI エージェントが外部サービスと通信するための仕様で、2024年に Anthropic 社によって初版がリリースされました。MCP を使用することで、AI エージェントは外部サービスの機能を効果的に利用できます...

    記事を読む
  • | ブログ | 7 min read
    #2026年 #MCP #typescript

    AIエージェントとシステムをつなぐMCP入門(リソース編)

    はじめに # 本ページは「AIエージェントとシステムをつなぐMCP入門」の続編です。 今回は、リソースについて説明します。 MCPのリソースは、AIモデルが回答を生成する際に参照するコンテキスト情報(ファイル、ガイド、仕様など)を提供する機能です。 ツールが「AIモデルの判断」で実行され、プロンプトが「ユーザーの意思」で選択されるのに対し、リソースは「アプリケーション主導(Application-driven)」でその組み込みを決定します。 本記事で掲載しているコードはこちらで公開しています...

    記事を読む
  • | ブログ | 6 min read
    #2026年 #GitHub #CI/CD

    GitHub Actions ワークフローのステップが並行実行可能になりました

    はじめに # 先日、GitHub Actions ワークフローで background 機能が実装され、単一のワークフロー内でステップを並行で実行可能になったことが発表されました...

    記事を読む
  • | ブログ | 7 min read
    #2026年 #GitHub #Security #tips

    Team プランでもいける! GitHub オーガニゼーションで楽々リポジトリアクセス管理

    はじめに # GitHub Organization を運用していると、セキュリティと利便性のバランスを取る必要があります。先日、「機密性の高いデータを保持するリポジトリを作りたいので、オーガニゼーションの Basic Permission を write から no permission に変更してほしい」という相談を受けました。 この要望は妥当ですが、そのまま実装すると新規リポジトリ作成のたびにメンバーのアクセス権を個別設定しなければならず、管理者の負担が大幅に増えてしまいます...

    記事を読む
  • | ブログ | 5 min read
    #2026年 #MCP #typescript

    AIエージェントとシステムをつなぐMCP入門(プロンプト編)

    はじめに # 本ページは「AIエージェントとシステムをつなぐMCP入門」の続編です。 今回は、プロンプトについて説明します。 MCPのプロンプトは、MCPクライアント向けにテンプレート化されたメッセージやワークフローを提供する機能です。 生成指示やツールの利用順序を定義したワークフローなど、テンプレート化して再利用したい場合に有効です。 本記事で掲載しているコードはこちらで公開しています...

    記事を読む
  • | ブログ | 6 min read
    #2026年 #MCP #typescript

    AIエージェントとシステムをつなぐMCP入門(StreamableHTTPステートフル実装編)

    はじめに # 本ページは「AIエージェントとシステムをつなぐMCP入門」の続編です。 今回は、StreamableHTTPで通信するMCPサーバーのステートフル実装について説明します。 ステートフル構成は、同じ利用者の連続操作を同一セッションとして扱いたい場合に有効です。 たとえば「ツールの呼び出し結果を次の呼び出しに引き継ぐ」「セッション単位で一時状態を保持する」「接続中の文脈を維持する」といった用途で使います...

    記事を読む
  • | ブログ | 5 min read
    #2026年 #MCP #typescript

    AIエージェントとシステムをつなぐMCP入門(StreamableHTTPステートレス実装編)

    はじめに # 本ページは「AIエージェントとシステムをつなぐMCP入門」の続編です。 今回はStreamableHTTPで通信するMCPサーバー(ステートレス)の実装について説明します。 前回のstdio実装編はMCPクライアントがサブプロセスとして実行しローカルで完結する構成でした。StreamableHTTPはHTTP経由でMCPサーバーを公開し、複数のMCPクライアントから利用可能な構成です...

    記事を読む

豆蔵では共に高め合う仲間を募集しています!

recruit

具体的な採用情報はこちらからご覧いただけます。