omuronの備忘録

個人的な備忘録

「JAWS-UG AI/ML #16: Generative AI」 #jawsug_aiml 受講メモ

AWS 勉強会

jawsug-ai.connpass.com

Generative AI 盛り上がってますね。
申し込み人数がとても多い！
（その分、歩留まりが多い状況でした）

セッション

Generative AI on AWS

Amazon Bedrock / Amazon Titan

宇都宮 聖子さん

  • 基礎モデル仕組み：ラベルなしの大量データから基盤モデルを作って幅広いタスクを作る
    • Text-to-text : 入力テキストから要約
    • Text-to-embeddings : 入力テキストからベクトル（数値）変換、意味のある関係のあるワードを生成
      • ハンドソープ --> ハンドソープ詰め替え、ハンドソープ抗菌...
    • Multimodal : 自然言語プロンプトから画像を生成
  • Amazon Bedrock : サーバーレス API サービスで基盤モデルを活用できる
    • 以下のモデルが利用可能
      • AI21labs の Jurassic-2
      • ANTHROPIC の Claude
      • satability.ai の Stable Difusion
  • Amazon Titan : Amazon が20年以上かけて作った基盤モデルをサーバーレス API で活用できる
    • 生成系基盤モデル：要約、テキスト生成、分類、QA、情報抽出
    • テキスト埋め込み表現基盤モデル：パーソナライゼーション、検索に有用
  • Amazon SageMaker JumpStart 利用ですぐに基盤モデルを使える
    • SageMaker のサイドメニューから Foundation models(要申込) で起動

東京リージョンだと表示されませんでしたが、バージニアリージョンだと表示されました。

EC2 Inf1n, Inf2

常世 大史さん

AWS Summit Tokyo の Infrastructure Showcase でチップを展示しているとのこと！

Amazon CodeWisperer

本橋 和貴さん

  • Amazon QuickSight Q も大規模言語モデルの活用例
  • Amazon CodeWisperer : ソースコードサジェストサービス
    • VSCode などの IDE にセットアップしてコメントを書くと、リアルタイムで候補コードをサジェストしてくれる
      • 出典の追跡（OSS侵害してないかとか）やセキュリティスキャンもしてくれる

Amazon CodeWisperer は GitHub Copilot と同じ $19/M という値段というのがまた悩むところです。

SageMaker でも AUTOMATIC1111 したい

吉田 真吾さん

AUTOMATIC1111 (非公式 Stable Diffusion Web UI) を SageMaker Studio で使うときのお話でした。

Rekognition の使用例 オートバイの画像判別

井上 敏郎さん

KATIX という画像によるオートバイの売却サービスにて Rekognition を活用したお話。
カスタムラベルでオートバイの向きを判別するようにして、正しい写真をアップロード時に判断して離脱率改善。 Rekognition をビジネスで使っている例を聞いたことがなかったので、新鮮でした。

Amazon Lex を用いたチャットボットの構築

深江 健士さん

Amazon Connect から Amazon Lex を呼び出して自動で応答するシステムのお話。

所感

AWS 宇都宮さんのセッションが録画配信が無いとのことだったので急いでメモしました。
プレビューなお話がメインだとアーカイブしづらい事情がありそうですね。

Amazon Bedrock 使えば、API 経由で AI サービスを簡単に使えそうなので、PoC がすぐにできそうなのが魅力的でした。