大規模言語モデル初心者がハリーポッター対話モデルを作ってみた
はじめに # ChatGPTの普及により、文章生成技術がますます身近になっています。 ChatGPTをはじめとする生成系AIは、巨大なテキストデータセットから学習した大規模言語モデル（LLM）をベースとしています。 このLLMは、ファインチューニングによってカスタマイズ可能で、特定の領域に特化したモデルを作成できます。 私はLLM初心者でしたが、ファインチューニングを試してみたいと思っていました...
記事を読む日本語GPTで雑談対話モデルを作ろう
この記事は夏のリレー連載2023の11日目の記事です。 はじめに # 最近ChatGPTをはじめ生成系AIツールが様々、発表されています。 大量のテキストデータを使ってトレーニングされた大規模言語モデル（LLM）では、そのモデルを用いたツールはもちろんのこと、モデルそのものも日進月歩の勢いで多数開発されています...
記事を読むRust でML に挑戦してみた
この記事は夏のリレー連載2023の10日目の記事です。 1. はじめに # こんにちは。この記事が初投稿となります、松本です。よろしくお願いします。 さて、C/C++ に代わる言語として注目を浴びている Rust ですが、ML や NN の記事量は圧倒的に Python で、Rust で書いた例はググってもあまり見ない気がします。しかし速度を重視する場合、必ずしもメモリ安全ではない C/C++ を使わざるを得ず、メモリ安全で高速な Rust は魅力があります...
記事を読むChatGPT先生に教わりながら「Transformerの肝」である「注意機構（Attention機構）」を可視化する
前回と前々回では機械学習アーキテクチャ「Transformer」を使って簡単な文章生成に挑戦しました。 ちょっと前までは、プログラミングで調べたいことがあるときは「Google先生」にお伺いを立てていたのですが、最近は「ChatGPT先生」にお伺いを立てることが増えました。 （ここでは ChatGPT に対して敬意を込めて「ChatGPT先生」と呼称しています...
記事を読むChatGPTに自然言語処理モデル「GPT2-Japanese」の使用方法を聞きながら実装したら想像以上に優秀だった件
前回は ChatGPT と Hugging Face を簡単に触ってみました。 今回は ChatGPT に自然言語処理モデル「GPT2-Japanese」の使用方法を聞きながらプログラムを実装してみたところ、想像以上に優秀だったので、その過程をご紹介したいと思います...
記事を読むChatGPTのベースになった自然言語処理モデル「Transformer」を調べていたら「Hugging Face」に行き着いた
ChatGPT を使ってみる # 最近「ChatGPT」というワードがSNSを賑わしているようです。 筆者は技術に対しては非常にミーハー(？)なので、ChatGPTが何なのか？また、どれほど凄いのか試してみたくなりました。 さっそく ChatGPT を使ってみたいと思います。 (ChatGPTの利用登録の方法については、解説サイトがたくさんありますのでそちらを参照ください...
記事を読む機械学習モデル可視化ツール「Netron」を使ってみる
前回、ディープラーニングモデルのオープンフォーマット「ONNX（Open Neural Network Exchange）」を紹介しました。 その時に機械学習モデル可視化ツール「Netron」の存在を知りました。 今回は「Netron」を紹介したいと思います。 Netron って何？ # Netronは、機械学習モデルを可視化するツールです。 ブラウザを含むクロスプラットフォームで動作します...
記事を読むディープラーニングモデルのオープンフォーマット「ONNX（Open Neural Network Exchange）」を使ってみる
ディープラーニング・アプリケーション開発キット”OpenVINO”を調べていた時、「ONNX」という単語に出会いました。 筆者の知らない単語だったので調べてみると、ONNX は「ディープラーニングモデルのオープンフォーマット」であることがわかりました。 今回はディープラーニングモデルのオープンフォーマット「ONNX」を紹介したいと思います...
記事を読むディープラーニング初心者がOpenVINOを使ってみる（その１：インストール編）
今回から数回に分けて「ディープラーニング・アプリケーション開発キット”OpenVINO”」について紹介したいと思います。 実は、数年前に一度トライはしたものの、当時はまだWindowsプラットフォームでの運用が推奨されておらず、Windowsでの動作確認を断念していました。 最近はWindowsやRaspberryPiの運用報告もあるようなのでまた興味が出てきました。 今回は第一回目ということで「OpenVINOのインストール」と「チュートリアルの動作確認」まで行いたいと思います...
記事を読む自然言語処理初心者が「GPT2-japanese」で遊んでみた
はじめに # 文章を楽に書きたい。 日常生活でそう思ったことはないでしょうか？ 文章を書く機会は社会人だけでなく学生でも多いと思います。 報告書やメール、レポート課題、そして今読んでいるようなブログなどです。 その時に出だしは順調でも途中で詰まったり、表現がわからずにネットで調べたりして、ちっとも進まないということがよくあります...
記事を読む
