お知らせ connpassではさらなる価値のあるデータを提供するため、2024年5月23日(木)を以ちましてイベントサーチAPIの無料での提供の廃止を決定いたしました。
料金・プラン等につきましては後日改めてご案内いたします。詳しくはこちらの お知らせをご覧ください。

お知らせ connpassをご利用いただく全ユーザーにおいて健全で円滑なイベントの開催や参加いただけるよう、イベント参加者向け・イベント管理者向けのガイドラインページを公開しました。内容をご理解の上、イベント内での違反行為に対応する参考としていただきますようお願いいたします。

このエントリーをはてなブックマークに追加

Aug

31

LLMOpsのためのCI/CD環境構築ウェビナー

MLモデルを本番環境に展開する際のつまづきを、W&Bでどのように減らすことができるか?

Organizing : Weights & Biases

LLMOpsのためのCI/CD環境構築ウェビナー
Hashtag :#wandb
Registration info

ウェビナー参加

Free

FCFS
140/150

Attendees
Ryusuke_Tanaka
Syu112358
Toshihiko Yanase
passaglia
HONDA Hi4
smbdofgcccpl
yp_genzitsu
Masahiro Nishimi
m12358
MIYAKOH
View Attendee List
Start Date
2023/08/31(Thu) 17:00 ~ 18:00
Registration Period

2023/08/14(Mon) 09:01 〜
2023/08/31(Thu) 18:00まで

Location

(場所未定)

参加者への情報
(参加者と発表者のみに公開されます)

Description

概要

今回のウェビナーでは、MLOpsのプロセスに高いレベルの自動化を導入し、継続的かつ高速なMLモデルの開発・運用をする方法を学びます。特に今回は大規模言語モデル(LLM)を例にとり、CI/CDワークフローの構築と自動化の流れを紹介します。LLMの評価から、ステージング・プロダクションモデルの管理、Github actionsを用いたテストの実行、プロダクションモニタリングまで、W&Bの新しい活用方法を見ていきましょう。「モデルを本番環境に展開する際のつまづきをどのように減らすことができるか?」という疑問にお答えしていきます。

アジェンダ(予定)

  1. LLMモデルの再学習とテスト
  2. W&B Promptsを使用したLLM固有の可視化
  3. GitHub ActionsとWebhooksを活用した自動化
  4. 本番環境へのモデルデプロイとモニタリング
  5. 本番環境の機械学習をスケールアップとCI/CD

当日紹介した関連情報

  1. PALR: Personalization Aware LLMs for Recommendation
  2. State of GPT | BRK216HFS
  3. PaLM 2 Technical Report
  4. The Rakuda Ranking of Japanese AI
  5. Nejumi LLMリーダーボード
  6. GPT-NeoXの開発ダッシュボード
  7. LangChain X Weights & Biases
  8. wandbotが使えるwandb community slack

参考: MLOpsにおけるCI/CDとは

Googleが提唱した指針によるとMLOpsの自動化レベルが高くなるにつれ、機械学習に関するプロセスが自動化され、サイクルを早めることができます。

  • レベル0 (手動プロセス):これは典型的なデータサイエンスプロセスであり、機械学習プロジェクトの開始時に実行されます。このレベルには、実験的で反復的な性質があります。データの準備と検証、モデルの学習とテストなど、各パイプラインのすべてのステップは手動で実行されます。処理する一般的な方法は、Jupyter notebookなどのツールを使用することです
  • レベル1(機械学習パイプラインの自動化):モデル学習の自動実行が含まれます。ここでは、モデルの継続的な学習を実施します。新しいデータが利用可能になるたびに、モデルの再学習のプロセスがトリガーされます。このレベルの自動化には、データとモデルの検証手順も含まれます
  • レベル2(CI/CDパイプラインの自動化):最終段階では、CI/CDシステムを導入して、本番環境で高速で信頼性の高い機械学習モデルのデプロイを実行します。前の手順との主な違いは、データ、機械学習モデル、および機械学習パイプラインのコンポーネントを自動的に構築、テスト、デプロイすることです

登壇者

鎌田啓輔 - Weights & Biases, Success Machine Learning Engineer

京都大学情報学研究科で機械学習を専攻。新卒では因果推論ツールを提供する外資系企業に参画し、ビジネス施策における因果推論に従事。その後、DataRobotにてLead Data Scientistとしてヘルスケアチームのリーダーとしてヘルスケアの企業を中心に国内数十社のAI導入を支援。コロナ禍にはデータに基づく対策方針の決定に資するべく、分析担当・PMとして国立国際医療研究センターと共同で解析プロジェクトを推進し、その結果をもとに論文を執筆。厚生労働省へのレター提出にも参画。因果推論から機械学習、Deep Learningまで行う機械学習エンジニア。

カンファレンス詳細

  • 日 時: 2023年8月31日 17:00-18:00
  • 参加費: 無料(事前登録制)
  • お問い合わせ:contact-jp@wandb.com

発表者

Feed

Keisuke Kamata

Keisuke Kamataさんが資料をアップしました。

09/01/2023 13:44

Keisuke Kamata

Keisuke Kamataさんが資料をアップしました。

09/01/2023 13:44

Keisuke Kamata

Keisuke Kamataさんが資料をアップしました。

09/01/2023 13:42

Keisuke Kamata

Keisuke Kamataさんが資料をアップしました。

09/01/2023 13:42

Keisuke Kamata

Keisuke Kamataさんが資料をアップしました。

09/01/2023 13:41

Keisuke Kamata

Keisuke Kamataさんが資料をアップしました。

09/01/2023 13:39

Keisuke Kamata

Keisuke Kamataさんが資料をアップしました。

09/01/2023 12:26

Keisuke Kamata

Keisuke Kamataさんが資料をアップしました。

09/01/2023 12:23

Keisuke Kamata

Keisuke Kamataさんが資料をアップしました。

09/01/2023 12:20

Group

Weights and Biases

Number of events 29

Members 1704

Ended

2023/08/31(Thu)

17:00
18:00

Registration Period
2023/08/14(Mon) 09:01 〜
2023/08/31(Thu) 18:00

Location

(場所未定)

Attendees(140)

Ryusuke_Tanaka

Ryusuke_Tanaka

LLMOpsのためのCI/CD環境構築ウェビナー に参加を申し込みました!

Syu112358

Syu112358

I joined LLMOpsのためのCI/CD環境構築ウェビナー!

Toshihiko Yanase

Toshihiko Yanase

LLMOpsのためのCI/CD環境構築ウェビナー に参加を申し込みました!

passaglia

passaglia

LLMOpsのためのCI/CD環境構築ウェビナー に参加を申し込みました!

HONDA Hi4

HONDA Hi4

LLMOpsのためのCI/CD環境構築ウェビナー に参加を申し込みました!

smbdofgcccpl

smbdofgcccpl

LLMOpsのためのCI/CD環境構築ウェビナー に参加を申し込みました!

yp_genzitsu

yp_genzitsu

LLMOpsのためのCI/CD環境構築ウェビナー に参加を申し込みました!

Masahiro Nishimi

Masahiro Nishimi

LLMOpsのためのCI/CD環境構築ウェビナー に参加を申し込みました!

m12358

m12358

LLMOpsのためのCI/CD環境構築ウェビナー に参加を申し込みました!

MIYAKOH

MIYAKOH

LLMOpsのためのCI/CD環境構築ウェビナー に参加を申し込みました!

Attendees (140)

Canceled (2)