# 【生成式AI導論 2024】第1講:生成式AI是什麼? * 人工智慧: 電腦展現"智慧",但"智慧"沒有統一的定義 * 生成式人工智慧: 機器產生複雜有結構的物建,如文章、影像、語音。 * "複雜"指複雜到無法窮舉,以寫100字文章而言,假設有1000常用字,窮舉而言有1000^100種組合,遠大於宇宙中原子總數。 * 例如分類就不是生成式,他從有限的分類選項中選擇。 * 機器學習: 讓機器從資料鐘自動找一個函式。 *  * 模型就是帶有大量未知參數的函數 * 機器學習的學習指的就是找這上萬個參數的過程 * 用來找這個函數的資料就是訓練資料 * 而這上萬個參數的函數現在被表示為類神經網路的樣子 * 解這個類神經網路,就叫深度學習了 * 以上提到的人工智慧、生成式人工智慧、機器學習、深度學習的關係大概長這 * 所以ChatGPT也就是個函式,只是有上億個參數,十分複雜,使用的模型是Transformer。 * 所以AI繪圖也是個函式,也是有上億個函數的模型 * 我們過去熟知的回歸、分類任務只是一小部分,就像獵人中的世界vs暗黑大陸一樣 * 生成式AI的挑戰就是要能產生完全沒有看過的東西,解決方法就是在訓練時讓他練習接龍(Transformer的Masked multi-head attention),把無限的選擇變成接龍的有限選擇(接龍有上句就大概知道怎麼接下句) * 這種接龍遞迴生成內容的動作就叫做 Autoregressive Generation
×
Sign in
Email
Password
Forgot password
or
By clicking below, you agree to our
terms of service
.
Sign in via Facebook
Sign in via Twitter
Sign in via GitHub
Sign in via Dropbox
Sign in with Wallet
Wallet (
)
Connect another wallet
New to HackMD?
Sign up