ChatGPT に関する Q&A

(主に先生方から)よく聞かれる質問があるので、吉田なりの回答をこちらにまとめます。適宜更新していきます。何か間違いなどあれば Twitter(@luyoshida)などでご指摘下さい。

Q. 出力が長くなると途中で止まってしまうのですが、どうすれば良いですか?(2023年5月17日更新)

「Continue generating」というボタンを押せば続きを出力してくれます。
このボタンが出るまでは「出力を続けて」や「continue」などとお願いする方法しかありませんでした。

Q. ChatGPT で生成された文章を検出する方法はありますか?(2023年4月13日更新)

吉田なりの結論から言うと「有効な検出方法はない」です。
研究でも実用上難しいと指摘されています(Sadasivan et al. 2023)。

もう少し説明すると、方法は提案されていますが、誤検出が問題となります。

有名な検出ツールとして GPTZero がありますが、人間が書いた文章なのに AI が書いたと判定されてしまう誤検出が指摘されています(参考: Whitney Gegg-Harrison 先生による記事。2023年4月13日参照)。

実際自分も「研究室に入りたい方へ」のページにおける「技術経営戦略学専攻に研究室がある意義」の文章を GPTZero に入力してみたところ、「ほとんど AI によって書かれた(Your text is likely to be written entirely by AI)」と判定されてしまいました。もちろん、完全に自分がゼロから書き上げたものです。

【参考文献】
・Sadasivan, V. S., Kumar, A., Balasubramanian, S., Wang, W., & Feizi, S. (2023). Can AI-Generated Text be Reliably Detected?. arXiv preprint arXiv:2303.11156.
・Chakraborty, S., Bedi, A. S., Zhu, S., An, B., Manocha, D., & Huang, F. (2023). On the Possibilities of AI-Generated Text Detection. arXiv preprint arXiv:2304.04736.

Q. 教育において ChatGPT を使う上で注意点はありますか?(2023年4月28日更新)

以下、吉田が考えている注意点を列挙します。

  • デタラメ(幻覚: Hallucination)を言うことがあるため、出力された内容を鵜呑みにしてはいけない
    • GPT-4 になって改善されているようですが、まだまだ完全ではありません(参考: OpenAI(2023)GPT-4 Technical Report
    • 出力内容に関する情報源を示してほしい場合は、Bing AIPerplexity AI などを利用するのも一つの方法です
    • 吉田としては、この点メリットにもなり得ると考えています。というのも、それっぽくデタラメを言うため、利用者は出力内容を評価、分析する必要があり、うまく使えば、より高次な認知能力が育むためのツールになるのではないかと考えているためです
  • (API を用いない)通常の ChatGPT を利用する際、申請しないと対話内容が AI の学習に利用される可能性がある(今後、対話内容が他ユーザーと ChatGPT の対話の中で出力される可能性が0ではありません)
    • 設定でチャットの履歴を OFF にすれば30日間の保存後に削除されるようにできるようになりました(参考記事: https://openai.com/blog/new-ways-to-manage-your-data-in-chatgpt 2023年4月28日参照)
    • 以下に記載する Q&A にも関連しますが、(API を用いない)通常の ChatGPT を用いる場合、提供されているオプトアウト用の Web フォーム(2023年4月13日参照)で申請すれば、対話内容を AI の学習データとして利用させないようにできます
  • バイアスや毒性(toxicity)を含みうる
    • 人種、性別、宗教などに関するバイアスや有害・攻撃的なコンテンツを生成する毒性を含むことがわかっているため、場合によっては、バイアスや毒性を含む回答を生成する可能性があることを考慮した上で利用する必要があります
  • 最新の情報を出力しない
    • ChatGPT は2021年より後の情報については限られた知識しか持っておらず、対話においてインターネット検索などはしません(参考: OpenAI の記事。2023年4月13日参照)
    • ただし、ChatGPT pluginsBing AIPerplexity AI などを使うと最新情報へのアクセスした上で回答を生成してくれます
  • 学生に直接 AI を使ってもらうような場面では、以下の点に留意する
    • 学生が使いたいかを確認する(意思、プライバシー)
      • データの扱われ方など含めて AI を使いたくないという意思が学生にあれば、強要させずに代替手段を考えましょう(例えば、教員が AI を用いて文章を生成してそれを利用するなど)
    • 学生が使えるかを確認する(公平性、アクセシビリティ)
      • 課金が必要なサービスを前提としないなど、金銭的な不平等が学習機会の不平等にならないように配慮しましょう
      • デバイスやネットワークの問題で、AI が使えない状況ではないかを念のため確認しましょう(特に学生が国外にいる際、使えない場合もあります)

【参考文献】
・カテライアメリア, 井出和希, & 岸本充生. (2023). 生成 AI (Generative AI) の倫理的・法的・社会的課題 (ELSI) 論点の概観: 2023 年 3 月版. ELSI NOTE26, 1-37., https://elsi.osaka-u.ac.jp/research/2120
・Zhuo, T. Y., Huang, Y., Chen, C., & Xing, Z. (2023). Exploring ai ethics of chatgpt: A diagnostic analysis. arXiv preprint arXiv:2301.12867., https://arxiv.org/abs/2301.12867

Q. 送信した内容を AI の学習データとして使われたくないのですが、どうすればよいですか?(2023年4月28日更新)

大きく分けて方法は2つあります。

  • Web ブラウザで通常版を利用する場合(2つの方法あり)
  • API を通して利用する
    • API を用いることで、オプトインしない限り(Webフォームなどで学習データとして利用することを明示的に許諾しない限り)、学習データとして利用されないと OpenAI のデータ利用ポリシー(2023年3月1日更新版を2023年4月13日参照)に記載があります

Q. API(Application Programming Interface)とは何ですか?(2023年4月13日更新)

APIとは、ざっくり言うと、Webサービスやアプリケーションなどが他のWebサービスやアプリケーションなどとやり取りを行うための仕組みやルールのことです。

通常 ChatGPT は Webブラウザで利用するものですが、API を用いることによって、自作のプログラムから ChatGPT の機能を呼び出すことができます。

そのため、プログラミングできる方は API を使うことを通して、ChatGPT とやりとりすることも可能です。例えば、https://github.com/Niek/chatgpt-web のコードを自分の PC にダウンロードして、自分の OpenAI アカウントの API key を入力することで、API 経由で ChatGPT を利用することもできます(Web 版もありますが、利用規約などはないので使う場合は自己責任でお願いします)。

Q. 費用をかけずに GPT-4 を使う方法はありますか?(2023年5月17日更新)

「GPT-4 無料」などのキーワードで調べれば、様々なサービスが出てきます。ただ、利用規約、データ利用ポリシー、使用感などは OpenAI の ChatGPT とは異なるため、利用の際はご注意下さい。

有力な選択肢の一つとして Microsoft が提供している Bing の AI が挙げられます。

Bing は Microsoft が開発する検索エンジンで、Microsoft Bing Blogs の記事(2023年4月13日参照)によると、AI チャットに GPT-4 を活用しているようです。

ただ、少し実験してみたところ、ChatGPT (GPT-4) との性能差があるかもしれません…(吉田の関連Tweet)。技術詳細が明らかになっていないので、ほとんど何もわからないのが悲しいところです。

利用制限としては、2023年4月13日時点で、1回のやりとりで20ターン、1日あたり200ターン制限がある模様です(参考: ZDNETによるWeb記事 「Bing」のAIチャット機能、利用制限がさらに緩和へ–1回20ターンに。2023年4月13日参照)。