omuronの備忘録

個人的な備忘録

「 Bedrock Night in 大阪（JAWS-UG AI/ML×大阪×東京支部コラボ）」 #jawsug_aiml 参加メモ

AWS 勉強会 Bedrock

Bedrock Night in 大阪（JAWS-UG AI/ML×大阪×東京支部コラボ）

jawsug-ai.connpass.com

セッション

AWSの生成AIサービス「Amazon Bedrock」入門

みのるんさん

speakerdeck.com

Bedrockのイチオシ機能「ナレッジベース」と「エージェント」と。
まだプレビューだけど今後は Prompt flow とかもオススメになりそう。 Cloud9 が使えなくなったので代替手段を徹夜ですぐ作ったと。

LT① セキュリティ検出結果をBedrockで読みやすくしてみた

塚田 真規 (三菱電機株式会社)

speakerdeck.com

  • 実際に触れてアウトプットしていくのがいい
    • AWSのサンドボックスを提供して試してもらう
    • セキュリティ意識も高めてもらう
      • Security Hub, Config, GuardDuty を入れてチェックしてもらう
  • Security Hubのセキュリティ結果をテキストで出して理解してもらう
    • Security Hub 野結果を Bedrock で要約して S3 に保存する SFn を作成
      • Agents for Bedrock をつかって、不足情報はLambda経由でWebから取得する
      • Prompt flows が発表されたのでそちらでも試してみた
    • Security Hub の内容が初心者にもわかりやすい出力になった

Security Hubの内容はそのままだとわかりにくいから、Bedrockを使ってわかりやすくした事例でした。
やっぱり、SFnで作った機能をPrompt flows で置き換えできるのね。
SFn つらいから Prompt flows のほうがマシになるか？
ただ、最終的に IaC に落とすのはどっち使っても大変そう

LT② Amazon BedrockとOpenSearch Serviceで、何でも答えられる社内RAGを作成する!!

とすりさん

  • 新卒が社内資料を見つけられない問題を解決するのにRAGを作った
    • Claude 3.5 Sonnet(回答) + Titan Text Embedding v2(ベクトル生成) + OpenSearch Service + S3
    • チャンク分割を工夫
      • 固定長、句読点などはよく使われる
      • 今回はMarkdownに変換してH1やH2タグごとに分割
    • Citations：LLMが参考にした内容のみを返すプロンプトエンジニアリング
      • Tool use(Function Calling) を使用して実装

「ナレッジベースを使えば別途作らなくてもいいでは？」と思っていたけど、チャンク分割とかTool useで精度向上したりするために、個別で作って実装しているのか。
後でXで聞いたところ、ナレッジベースそのままだとOpenSearch Serviceが高いのも理由と。

LT③ AWSの生成AI活用事例集GenUを使い倒す

こまきちさん

speakerdeck.com

GenUは社内とかのPoC向けには非常に有効と思ってる。

LT④ 図面中の風船番号の読み取りについて。Amazon RekognitionとClaude 3.5 Sonnetの画像認識の検証

長田英幸さん

  • パーツリストの風船番号にリンクをつけるためOCR使ってXMLで座標を作成
    • セキュリティ的に国内にデータをとどめたい
    • Claude 3 だと文字は見れても位置は取れない
      • 文字の位置のバウンディングボックスを取りたくてプロンプトエンジニアリングしたけど無理だった
    • Rekognition で OCR 的に風船番号の位置は取れる
      • Textract で文字を読み取りたいが東京リージョンにないので使えない

実際の業務のDXとして試した内容を聞けるの貴重。
生成AIが万能で唯一の答えじゃなく、やりたいことにあったサービスを選ぶのが大事。

LT⑤ PoCの先へ。社会実装 with 生成AI in CyberAgent.

小西 宏樹さん

  • 生成AIは今後動画を作ったりなどできることが増えていく
    • 経済的ポテンシャルが高い
  • 実際のPoCは RAG bot ばかり
    • 理想の活用は bot ？
      • ドラえもんのような何でも良しなにやってくれる何かが理想では？
  • PoC はお金を生み出してない、業務フローに組み込まれてない
    • AWSもモデルは外部なのでそこまでお金を生み出してない
  • 営業向け生成AI利用例
    • 営業資料の作成が大変
    • 営業資料の枠組みは決まっているので生成AIを使って自動化
      • 課題分析エージェント、広告提案エージェント、類似調査エージェントをマルチエージェントで実現
      • Lambdaに LangChain 乗せて OpenAI/Gemini 使ってマルチエージェントを実装
        • Bedrockはマルチエージェントに対応してないため外部LLM利用
    • 業務フローに組み込んで実際に工数が減るかを考える
      • ここが大事

生成AI使えば、PoCはすぐにできるのですが、そこでお金を生む（節約できる）ところまで進めるのが難しいですよね。
業務フローに組み込んでちゃんと利用することまで考える必要があると。

Bedrockでおもしろ画像生成！大喜利大会

山下さんと愉快なBedrockers

ここではかけないけどAWSをイメージした画像が面白かった。
有償はやまださんでした。

面白い画像作るには「マッスル」といれるとムキムキ男性出ていい感じになるらしいです。