# 大語言聊天機器人、應用與程式設計分享(口丁)

- 大語言工具
- perplexity
- notebookLM
- 程式設計工具
- 千問2.5-coder
- cursor + grok
- openhands?(需要鯨魚)

- 聊天機器人與AI應用程式
- 使用AI生程式(奇技淫巧?tab?)
- chrome外掛
- chrome外掛芭芭拉 https://github.com/pondahai/barbara
- summy https://github.com/pondahai/summy
- AI聊天網頁程式
- 樹莓派聊天機器人
- 本來是本地推理 後來發現免費API
- 幾個網頁遊戲
- 直接看
- https://pondahai.github.io/ai_gen_html_game/
- 幾個Python小程式
- PDF翻譯
- PDF文件的一種處理方法
- 音檔轉字幕
- 字幕檔格式
- 聊天機器人
- 土炮搜尋方法
- 正規應該是MCP
- 硬體或韌體設計呢?
- cursor 串 grok
- https://www.facebook.com/watch/?v=1345395949779733
- 本地推理
- ollama
- LMStudio
- llama.cpp
- 推理硬體(撇開事實(顯卡)不談😆)
- intel 11代
- 樹莓派5
- jetson AGX (Orin & Xavier)
- https://developer.nvidia.com/embedded/jetson-modules#:~:text=Technical%20Specifications
- tesla p40
- APPLE M4(Mac mini)
- https://en.wikipedia.org/wiki/Apple_silicon
- benchmark ranking https://ai-benchmark.com/ranking_processors
- 程式設計例子(對話程式&遊戲)
- API & KEY
- POST & HTTP HEADER
- JSON格式
- 流式輸出
- 遊戲程式
- AI協作例子1
- 外掛需要開sidepanel
- 但是PDF viewer不能開sidepanel 因為window.id是-1
- 他知道要用tabs.query取id 但還是無法
- 上SO看到有人說 不能用await 要用callback取tabs.query
- 回來跟AI說 於是她就改好了
- 一點點AI輔助程式設計的提示技巧
- 觀察AI說的話(AI回答文的架構)
- 觀察生成的內容(學習領域知識專有名詞)
- 用他的魔法對付他(從他的回答中學習問法)
- 必也正名乎(專有名詞必須理解)
- 粽的來說
- 文字接龍(生成&總結&翻譯)
- 程式生成與解答(error message & stackoverflow)
- 思維練(COT)
- 一堆提示魔法
- 大語言不會算術?烏鴉 黑猩猩呢?
- 大語言模型帶來的衝擊：海倫凱勒的例子
- 結語

- 參考資料
- https://www.reddit.com/r/LocalLLaMA/
- https://github.com/ggerganov/llama.cpp
- https://github.com/Mozilla-Ocho/llamafile
- https://github.com/b4rtaz/distributed-llama