---
lang: ja
tags: ICL_B_2023, lecture, ChatGPT
---
# 生成系AI(Chat GPT, LangSmith, etc.)について
近年，生成系AI，対話型AIと呼ばれる人工知能技術が注目を集めている．これらは，機械学習に基づいて文章やプログラムコードを生成するものであり，誰もが手軽に利用できるようになっている．

- [ChatGPT (対話型AI)](https://chat.openai.com/)
- [DeepL (機械翻訳)](https://www.deepl.com/ja/translator)
- [Langsmith (AIベースの英文校正)](https://ja.langsmith.co.jp/tohoku-univ/)

こうした生成系AIは便利な反面，下記に示すような問題点も指摘されている．講義の課題・試験などに利用してよいか否かについては，授業科目によって異なるため，**必ず担当教員に確認すること**．

## 生成系AIの問題点
生成系AIはあくまで（計算機やスマホなどと同じ）**ツール**でしかない以上，使い方を間違えば，当然，望んだものと異なる **「不適切な結果」** が得られることに留意する必要がある．

例えば， [東北大学オンライン授業ガイド](
https://olg.cds.tohoku.ac.jp/forstudents/ai-tools)では，下記の留意事項とともに，生成系AIが出力する不適切な情報の例が紹介されている：

- AIの出力をレポート等の解答にそのまま利用することは**自身の勉強にならない**
- 授業によっては**AIの利用を禁止**しており、場合によっては**剽窃とみなされる**場合がある
- 調べ学習等で使用する場合も、AIの出力には**誤りが混ざっている**ことも少なくなく、AIの出力が正しい内容か、誤った内容なのか、**自身でしっかり確認する必要がある．**
:::danger
しかも間違う時は本当に「呼吸するかのように嘘をつく」ので，真偽については自分で責任をもって判断すること．
:::
- 未発表の論文や秘密にすべき情報（個人情報やプライバシー情報等）を生成系AIに入力してしまうと、それらの情報が**意図せず流出・漏えい**してしまう可能性がある点に気をつける

これらに加えて，長江個人は以下のような問題点を感じている：
- ChatGPT(やGPT-4モデル)は**会話インターフェイス用に最適化された[言語モデル](https://ja.wikipedia.org/wiki/%E8%A8%80%E8%AA%9E%E3%83%A2%E3%83%87%E3%83%AB)** であり，その主たる機能は「（無意味な言葉の羅列ではない）自然な文章を生成する」ことである．換言すれば，「人間の代わりに何かを調べる」「情報の真偽を判定する」「正しい情報を返答する」といった機能は，**そもそも備わっていない**．
- 学習に**最新の情報が反映されていない．** 例えば， ChatGPTに「ChatGPT が答えられる最新の情報は」などと質問すると「私は2021年9月にトレーニングされ、その時点での情報までしか理解できません。」など返してくる．
- 文化・歴史・政治・倫理などの問題について **大きく偏った情報** が出力される可能性がある（検閲が行なわれていたり情報統制に利用される可能性がある）．
1. [ChatGPT technology declined to write a poem admiring Donald Trump, but successfully drafted one for Joe Biden.](https://www.snopes.com/fact-check/chatgpt-trump-admiring-poem/)
2. [Liebrenz, M., Schleifer, R., Buadze, A., Bhugra, D., & Smith, A. (2023). Generating scholarly content with ChatGPT: ethical challenges for medical publishing. The Lancet Digital Health, 5(3), e105–e106.](https://www.thelancet.com/journals/landig/article/PIIS2589-7500(23)00019-5/fulltext)

## 長江が考える生成系AIの適切な使い方
あくまで長江の個人的な意見ではあるが，生成系AIは，下記のような用途で用いる分には問題が少ないように思われる．

- 文脈に合わせた文章表現の校正案を作成する
- 次の文章をですます調に書き直せ．
- 次の文章を科学技術論文風に書き直せ．
- 次の文章を素人向けに翻訳して．
- サークルで新入生を歓迎するスピーチの文案を作成せよ．
- 次の文章をTwitter用に140文字以内にして．
- 一般的な知識についての文案を作成する
- 線形計画問題の解法である単体法について，英語で説明して．
- ABC予想について，具体的な例を挙げながら高校生にも判るように説明して．