omuronの備忘録

個人的な備忘録

「ChatGPT Meetup Osaka #1」 #chatgptjp 受講メモ

ChatGPT Meetup Osaka #1

chatgpt-jp.connpass.com

ChatGPT すごい勢いで流行ってますね。

セッション

ChatGPT情報の追い方、個人・業務での使い方、サービスへの組み込み方、ABEJAでの取り組み4例など行けるところまで

村主さん

speakerdeck.com

  • 抑えるといい記事
    • 松尾研究室:AI の進化と日本の戦略
    • 今井翔太(えるエル)さん:ChatGPT 人間のフィードバックから強化学習した対話AI
    • 畠山大有さん:ChatGPT Impact
    • LayerX 福島さん:LLM がなぜ大事なのか?
    • note npaka さん
    • Twitter 木内翔大さん、LangChain公式、LlamaIndex公式
  • 業務での活用例
    • 「Will Can を設定するために私に質問してもらえますか?」
    • CTO/CIO/CISO/VPoE の役割を議論させてみた
    • 100行のSQLをシンプルな構文にできるか?
    • 自社サービスの提供価値の確認
    • テストデータ生成
  • 自分の専門的ではないところを補完してくれる
  • 自社サービスの組み込み方
    • Training
      • Fine-tune <-- めっちゃお金かかる
        • FlexGen,RWKV,DeepSppeed chat などつかえば早く安くも
    • Prompt Design
    • LlamaIndex
    • LangChain
  • ABEJA は ChatGPT を全社導入
    • 狙いは生産性向上と10年に1度のトレンドの体験のため
  • ABEJA 取り組み
    • チャット以外の用途でのサービスへの組み込み、有効性の検証
    • ABEJA LLM Series を商用サービスとして提供開始

ChatGPTをシステムに組み込むためのプロンプト技法

Kouta Ozaki さん

www.slideshare.net

  • 発表資料に ChatGPT 代が$120かかった
  • ChatGPT は文字列を受けており文字列を返す関数
    • ChatGPT 予測するだけ
  • 適切なプロンプトだと結果が安定する
    • 悪いプロンプトだと幻想(嘘)も
      • 幻覚が出てくるのはプロンプトが悪い
    • 回答方式を指定するなど
  • 制約
    • 言語化できないことはできない
    • 文字列にできないことはできない
    • 100%の精度はでない
  • 組み込みやすい/にくい領域
    • 品質が低くていいもの
      • 占いとかはやりやすい
    • プロンプトが必要で、品質が高いものは難しい
      • 医療系とか
  • プロンプトで品質は向上する
    • 完結でわかりやすい表記で記述
      • 誤字脱字などはノイズになる
      • 用語は適切に
      • 具体的な結果を示す
  • 品詞分解を行ったときの品質向上の実例のお話
    • 泥臭いプロンプト作成が必要...

PowershellAIとChatGPTで分かったAIとの接し方

音川勝俊さん

  • Powershell : Windows の cmd に代わるシェル
  • PowershellAI : Powershell から OpenAI を使うためのモジュール
    • copilot コマンドに文字列を渡すと Powershellスクリプトが出力される
      • 架空のモジュールやコマンドレッドも出力する...
  • 楽できること
    • 情シスや運用エンジニアの定型業務
  • 嘘を嘘と見抜く能力が必要

HACARUSにおけるchatGPT活用術

高橋大介さん

  • 従業員の1/3が海外の人、英会話能力向上が必須
    • ChatGPT を組み込んだ英会話アプリ talkGPT を Flutter で開発
  • プロンプト
    • 必ず質問してもらう、token は少なめに返すというプロンプトで作成
    • Prompt Injection される危険はあり
  • Speak という英会話アプリがあった

LT1 OpenAI APIAPI Changelog を要約してみた話

岡本さん

speakerdeck.com

  • OpenAI API で任意の文章を要約できる
  • 日本語以外から和訳もできる
  • 翻訳じゃなくて要約なので書いてないことも言う
    • ハルシネーション対策

LT2 OpenAI API を使って会話形式かの入力分からジオコーディングしてみた

大橋さん

docs.google.com

  • ChatGeoPT : OpenAI API の入力文からジオコーディングをする PoC
  • ジオコーディング : 住所や地名から緯度経度に変化すること
  • OpenAI API から OverpassAPI クエリを作って OpenStreetMap から取得
  • 住所を正規化するライブラリ normalize をしよう

LT3 ChatGPT にノベルゲームをつくってもらった

あべさん

  • ChatGPT にノベルゲームをつくってもらったお話
  • 出力されたコードに嘘があったのでそこはググった
  • 画像は Stable Difusion のプロンプトを生成してもらった
  • 昨日からやりはじめて5−6時間で完成

所感

ChatGPT をそのままブラウザで使ったことしか無いのですが、OpenAI API も試したくなる内容でした。
コード生成なら GitHub Copilot でもできるけど、全然知らないけどよく使われているコードとかなら精度良く生成して試すことができそうで、そういうサンプルコードを生成したりしてもらってます。
壁打ち相手にはあまり使ってないけど、その辺りは上手な質問ができるようになる必要がありそう。
「狙いは生産性向上と10年に1度のトレンドの体験のため」と村主さんが言ってましたが、トレンドに送れないために早く本格的に導入したいと思いました。