イベント概要

今回のW&Bミートアップでは生成系ファウンデーションモデルのファインチューニングをテーマにします。プロンプトエンジニアリングで生成内容を幅広くコントロールできることで爆発的な人気を博している生成系モデルですが、インダストリーや自社の目的に特化した出力を得るためには、ファウンデーションモデルを独自に追加学習（ファインチューニング）することが有効と考えられています。このような追加学習をすることで、モデルをどのように進化させることができるのか、ご登壇者のお二人には具体的な手法を取り上げてもらいます。

スポンサーからのお願い

• 講演開催中にお弁当形式の軽食と、懇親会でのお飲み物の提供を予定しておりますが、数には限りがありご参加者全員に行き渡らない場合もございますので、ご了承ください。

トークテーマ

• 生成モデルのファインチューニング
• LLMの追加学習
• ファンデーションモデルを追加学習した方がいいとき

タイムテーブル

スピーカー

Makoto Shing, Stability AI, Machine Learnng Engineer

2023年4月よりStability AI Japanにジョイン。それまでは、rinna株式会社のリサーチチームにて、NLP/CVの分野を専門として研究開発に従事。オープンソース化にも貢献しており、Japanese CLIPやJapanese Stable Diffusionを開発。

「Stable Diffusionにおける追加学習」

Stable Diffusion (SD)の最初のバージョンが発表されてから1年弱が経つ今も、SDを用いたアプリケーションや論文は多くあります。特に、高性能で汎用的なSDを、さらに自分が望む画像にチューニングする「追加学習」手法は、幅広いカスタマイズが可能になりました。本講演では、SDにおける追加学習について、最新の手法を交えてご紹介します。

Yuya Yamamoto - Machine Learning Engineer, Weights and Biases

東京大学大学院工学系研究科にて有機無機複合材料の研究で博士号を取得。学位取得後、大手化学メーカーにて液晶・タッチパネル関連先端化学材料の研究開発に従事。 その後、大手食品メーカーで機械学習を用いた食品パッケージに関する予測モデリングと最適化に取り組むなど、BtBとBtCいずれにも深い経験を有する。前職DataRobotでは製造顧客担当チームのリーダーとして国内数十社のAI導入を支援。国内で数十人程度のKaggle Grandmasterの一人。

「W&Bを使ったLLMモデルのチューニング」

クローズドソースのChatGPTモデルに対して、オープンソースのLLMモデルはプライベートな環境での開発や、事業目的に特化した結果を出力するために注目されています。本セッションではここ数年で爆発的に開発の進んでいるLLMモデルの傾向を簡単にレビューした上で、最新のオープンソースLLMモデルのファインチューニングおよびプロンプトエンジニアリングの開発における、学習・検証・デプロイワークフローをwandbを使ってどのように構築できるのかを実例を交えて紹介します。

会場

WeWork 東京スクエアガーデン

住所: 104-0031 東京都中央区京橋3-1-1 東京スクエアガーデン 14F

（以前のイベントの様子）

アクセス

• 東京メトロ 銀座線 京橋駅（出口3）（駅直結）
• 東京メトロ 有楽町線 銀座一丁目駅（出口7） 徒歩2分
• 都営浅草線 宝町駅（A4出口） 徒歩2分

京橋駅直結のビル。3階にあがるとオフィスエントランスがございます。 3階からエレベーターで14階までお越しください。 会場へのアクセス方法の詳細はこちらに：https://bit.ly/41yNL1m

主催・運営

このイベントはWeights & Biases Japan によって運営されています。

このミートアップに登録することで、Weights & Biasesの製品、サービス、イベントに関するマーケティングコミュニケーションを受け取ることがあります。W&Bは、お客様の個人情報をプライバシーポリシーに従ってのみ使用し、これらのコミュニケーションはいつでも解除することができます。

このミートアップ中に写真や動画が撮影されます。これらはW&Bによってマーケティングや宣伝用に、出版物、ウェブサイト、ソーシャルメディアで使用されることがあります。何か懸念がある場合や、撮影や録画されたくない場合は、お問い合わせください。