--- lang: ja tags: ICL_B_2023, lecture, ChatGPT --- # 生成系AI(Chat GPT, LangSmith, etc.)について 近年，生成系AI，対話型AIと呼ばれる人工知能技術が注目を集めている．これらは，機械学習に基づいて文章やプログラムコードを生成するものであり，誰もが手軽に利用できるようになっている． - [ChatGPT (対話型AI)](https://chat.openai.com/) - [DeepL (機械翻訳)](https://www.deepl.com/ja/translator) - [Langsmith (AIベースの英文校正)](https://ja.langsmith.co.jp/tohoku-univ/) こうした生成系AIは便利な反面，下記に示すような問題点も指摘されている．講義の課題・試験などに利用してよいか否かについては，授業科目によって異なるため，**必ず担当教員に確認すること**． ## 生成系AIの問題点 生成系AIはあくまで（計算機やスマホなどと同じ）**ツール**でしかない以上，使い方を間違えば，当然，望んだものと異なる **「不適切な結果」** が得られることに留意する必要がある． 例えば， [東北大学オンライン授業ガイド]( https://olg.cds.tohoku.ac.jp/forstudents/ai-tools)では，下記の留意事項とともに，生成系AIが出力する不適切な情報の例が紹介されている： - AIの出力をレポート等の解答にそのまま利用することは**自身の勉強にならない** - 授業によっては**AIの利用を禁止**しており、場合によっては**剽窃とみなされる**場合がある - 調べ学習等で使用する場合も、AIの出力には**誤りが混ざっている**ことも少なくなく、AIの出力が正しい内容か、誤った内容なのか、**自身でしっかり確認する必要がある．** :::danger しかも間違う時は本当に「呼吸するかのように嘘をつく」ので，真偽については自分で責任をもって判断すること． ::: - 未発表の論文や秘密にすべき情報（個人情報やプライバシー情報等）を生成系AIに入力してしまうと、それらの情報が**意図せず流出・漏えい**してしまう可能性がある点に気をつける これらに加えて，長江個人は以下のような問題点を感じている： - ChatGPT(やGPT-4モデル)は**会話インターフェイス用に最適化された[言語モデル](https://ja.wikipedia.org/wiki/%E8%A8%80%E8%AA%9E%E3%83%A2%E3%83%87%E3%83%AB)** であり，その主たる機能は「（無意味な言葉の羅列ではない）自然な文章を生成する」ことである．換言すれば，「人間の代わりに何かを調べる」「情報の真偽を判定する」「正しい情報を返答する」といった機能は，**そもそも備わっていない**． - 学習に**最新の情報が反映されていない．** 例えば， ChatGPTに「ChatGPT が答えられる最新の情報は」などと質問すると「私は2021年9月にトレーニングされ、その時点での情報までしか理解できません。」など返してくる． - 文化・歴史・政治・倫理などの問題について **大きく偏った情報** が出力される可能性がある（検閲が行なわれていたり情報統制に利用される可能性がある）． 1. [ChatGPT technology declined to write a poem admiring Donald Trump, but successfully drafted one for Joe Biden.](https://www.snopes.com/fact-check/chatgpt-trump-admiring-poem/) 2. [Liebrenz, M., Schleifer, R., Buadze, A., Bhugra, D., & Smith, A. (2023). Generating scholarly content with ChatGPT: ethical challenges for medical publishing. The Lancet Digital Health, 5(3), e105–e106.](https://www.thelancet.com/journals/landig/article/PIIS2589-7500(23)00019-5/fulltext) ## 長江が考える生成系AIの適切な使い方 あくまで長江の個人的な意見ではあるが，生成系AIは，下記のような用途で用いる分には問題が少ないように思われる． - 文脈に合わせた文章表現の校正案を作成する - 次の文章をですます調に書き直せ． - 次の文章を科学技術論文風に書き直せ． - 次の文章を素人向けに翻訳して． - サークルで新入生を歓迎するスピーチの文案を作成せよ． - 次の文章をTwitter用に140文字以内にして． - 一般的な知識についての文案を作成する - 線形計画問題の解法である単体法について，英語で説明して． - ABC予想について，具体的な例を挙げながら高校生にも判るように説明して．