林北辰

@linpei

Joined on Sep 14, 2020

  • 介紹 深度學習演算法試圖從大量資料中學習高維特徵,使得深度學習勝過機器學習。但反過來說,大量資料對深度學習來說是不可或缺的,模型大小與需要的訓練資料量幾乎呈線性關係。缺乏訓練資料在某些特定領域是無法避免的問題,數據的取得太過複雜又困難,使那個領域要建構大型的標注資料集極為困難。 遷移學習就是為了補足這一缺憾,不限制訓練資料必須與測試資料獨立同分布(independent and identically distributed),而目標領域中的模型也不需要從頭開始訓練,這一特性顯著減少我們需要的訓練資料和訓練時間。 這篇論文將定義深度遷移學習並且提出四種分類,然後回顧各個分類中的研究成果,給予每個類別標準化描述和示意圖。 深度遷移學習 遷移學習主旨是將來源領域的知識轉換進目標領域,靠的是不限制訓練資料必須與測試資料獨立同分布,學習流程圖如下:
     Like  Bookmark
  • Agent-based Modeling and Simulation (ABMS)是一種建模的範例、典範,也是自關係數據庫發明以來,在建模領域的實際發展之一。他能夠在商用電腦上協助進行決策、在電子實驗室協助研究。這篇論文會以三個方向介紹ABMS:Useful,為甚麼ABMS表現良好;Usable,我們是怎麼建立起可用的ABMS系統;Used,如何使用ABMS來解決特定問題。 什麼是代理人? 代理人的基本特徵是指元件進行獨立決策的能力,其中代理人必須具備主動性。從實際建模的角度來看,代理人需要有某些特性: 可識別的(identifiable):獨立的個體會具有能夠主導其行為和決策的特徵和規則,代理人具有一些判斷標準讓我們能夠認知到某物是不是代理人的一部份。 互動的(interactive):代理人處在可能會和其他代理人交流的環境中,他能夠識別其他代理人,且會具備通訊協定以和其他代理人交互,以及對環境變動做出反應的能力。 目標導向的(goal-directed):具有需要完成的任務以及完成任務所需要的行為。 靈活的(flexible):能夠從經驗學習並調整自己的行為,這有一些記憶體的需求,和一些調整自身行為的規則。
     Like 1 Bookmark
  • 有效性(validity)是模擬模型的基本前提,因此也是ABS的基本前提。然而MAS的模型通常會需要一些特定方法,於是在這篇論文中會提出ABS模型的驗證過程,結合了表面效度(face validity)、靈敏度分析、校準和統計驗證。 簡介 有效性是模擬模型最重要的特性,代表著模型的正確與否。經過足夠的驗證,就能夠為實驗提供可靠的結果,且只有經過驗證才能讓這些結果作為原始系統能參考的答案。ABS為許多專業領域提供了新穎方式處理以前無法進行的模擬。 話雖這麼說,ABS的驗證存在著需要解決的問題,因此需要定義適當的流程。本文會先介紹各種能用在ABS模型的有效性概念和它們與模擬目標的關係,接下來簡短敘述遇到的問題和現有方法,然後介紹一個用於驗證ABS的框架。 有效性類型 根據進行驗證的方式或是模型開發的進度可以找到不同類型的驗證,經驗驗證、根據統計驗證、概念模型驗證、操作驗證、結構驗證、過程驗證等等,已經出現過各式各樣的方式。作者提出了以兩個面向來表現有效性:測試方法的性質,和模型使用的元件。
     Like  Bookmark
  • Ch. 2 Multiagent System 這段會藉由提供可從中受益的典型領域的特徵,強調MAS的需求和實用性。 如果不同的人或者組織之間有不同的目標和專有資訊,就需要MAS來處理他們的交流,就算每個組織都希望使用單一系統來處理內部事務,也還是不會給予任何一個人建構代表群體系統的權力。綜上所述就是不同組織都需要屬於自己的系統來反映他們的能力和優先度。 ==例子1:有生產輪胎的公司X,和被X發包製作螺帽的公司Y。為了自動化某些生產流程,公司XY的內部必須各自被規範,但他們都不想把自己公司的資訊和控制權放出給對方,這時就需要MAS幫助。== ==例子2:醫院排程MAS需要各種不同代理人來代表不同醫院人員的利益,想要讓病患待在醫院的時間越少越好的護理師、想要讓X光機吞吐量最大化的操作員等等。因為每種職責的人所考量的東西不一樣,所以需要不同的代理人來公正考量他們的利益== 對於處理多樣化的任務,比起交由一個中心化代理人,使用擁有各自專業的代理人來分配子任務更能有效解決問題。(當然比如只有單一化任務或者沒有不確定性的任務還是可以使用單一代理人)
     Like 6 Bookmark
  • 背景知識 人類活動辨識 (Human Activity Recognition, HAR) 可以分為簡單活動和複雜活動,簡單活動代表在給定時間內持續執行的活動,複雜活動則是由複數的簡單活動組成。複雜活動可以有兩種模式,分別是並行(concurrent)以及交錯(interleaved),並行活動是同時發生簡單活動的集合,交錯活動是在簡單活動之間切換的集合。 人類活動辨識流程會表示為活動辨識鏈 活動辨識鏈 (Activity Recognition Chain, ARC) 有監督式和非監督式兩種執行鏈,監督式方法會將擷取的特徵和對應label作為輸入以訓練分類器,主要流程如下 資料獲取 (data acquisition)
     Like  Bookmark
  • Design Patterns 1. Flyweight 前言 Flyweight在拳擊中是最輕的量級,稱為蠅量級。有兩個名字: 輕量模式 享元模式 好處是節省記憶體(RAM),功用是讓多個物件共享同一份狀態,而這份狀態會事先被儲存起來,物件需要使用的時候直接提取來用。 壞處是程式碼較難做調整,因為物件走向已經被固定而很難產生變化,程式看起來較不值觀、架構也較複雜。除此之外,物件導向原本的封裝特性消失,變為是從外部引入。
     Like  Bookmark
  • 1. 用於找出概念原始詞語的架構中運用到什麼技術? 文本初期處理先將句子分成左右兩段,並使用現成的word embedding方法--word2vec將數以百萬計的文字以低維度完成詞向量的轉換。 word embedding 以向量方式將文字分類供電腦運算,以one-hot encoding介紹,"I like musics."和"I like sports."共有四個單字,形成了[I,like,musics,sports]四種向量,每個單字的向量如下: I like musics
     Like  Bookmark
  • NLP前處理可以簡單劃分為三層: Syntactics Layer (句法層) 用意在對文本進行前處理,以便應對非正式語法,並使得句子結構明確 Microtext Normalization (微文本正規化) 包含縮寫、首字母縮寫字、及表情符號等等,統稱為"microtext" 對於使用正規語言的NLP來說需要先將這類文字轉為一般用語 通常這些詞語是依照縮寫或者發音關係而產生 越來越多人使用非監督式學習
     Like  Bookmark
  • 本論文主要圍繞在講解實用層面的情感分析,對於線上評論,到處都是可以抒發的管道,能夠從中獲得使用者心得來輔助產品開發再適合不過。將分為五大種類介紹,在那之前先回顧情感分析系統的架構...還是算了 文本級情感分析 情感分析的最基本形式,分為監督式和非監督式學習。 監督式 會假設有分類的種類上限,且每類都有可用資料,最簡單可以用二分來分類,當然也可以加入中立、程度劃分(ex. 五星評分)或在這之上進行細分。 常見分類演算法有SVM(支援向量機)、單純貝氏分類器、邏輯回歸或KNN(鄰近演算法)。 若要表示文檔主題,TFIDF、POS tagging、情感字典和結構解析等屬於較高階表示法
     Like  Bookmark
  • 主旨:改良StyleGAN 前一代有水滴狀(water droplets)雜質存在於結果圖像之中,清除產生雜質的原因,並簡化StyleGAN架構。 解決轉變角度時,細節特徵不會有所改變的問題。 運算量減少並提升圖像品質等 StyleGAN簡介 與GAN不同的是,StyleGAN對latent space有經過一連串的全連接層運算,讓圖像的細微特徵變得可控。latent space可以想作是儲存特徵的集合。
     Like  Bookmark