# Item Analysis ## Pars I ——量的分析 量化分析跟質性分析並沒有明確的邊界,研究仰賴的也不只是單一方向的能力 ### item difficulty **Item-difficulty index** * 答對率可作為難度的指標,值愈大代表題目愈簡單,理想值為$\ p= .5$ * 收資料時偏好Long format * 編制測驗時會希望一個題組能夠有不同難度的題目,以區別不同程度的學生 Item-difficulty index 用在成就測驗 (achievement test) Item-endorsement 用在人格測驗 (personality testing) 理想難度值(簡單算法):猜對機率與1(視為答對)的算數平均值 ### item discrimination (鑑別度、區辨力) 測驗後取出某群體的高分群與低分群,通常取前後10%~33%。 若能力分配為常態分配,最理想的數值為27%;若能力分配較常態分配扁平,最理想的百分比為33%。 U: Upper(高分群的答對率) L: Lower(低分群的答對率) U, L的數值是答對率×100 $\ D=U-L$ $\ d=(U-L)/N$ 可以做統計檢驗(t-test)確定差異,避免D值不夠確實 ### 難度與區辨力的判準? 期待區辨力為正,排除區辨力不為正的值。 ### Cronbach's $\alpha$ $\alpha=\frac{k}{k-1}(1-\frac{\sum_{i=1}^k\sigma_i^2}{{\sigma_T}^2})$ ### Inter-item correlations ==Item都是測驗同一個構念,所以題目之間的相關性可以用來判斷題目的好壞== $$\ Cov(X,Y)= \frac{{\sum_{i=1}^n(Xi-\bar{X})(Yi-\bar{Y})}}{N-1}$$ $$\ r= \frac{Cov(X,Y)}{\sqrt{Var(X)}\sqrt{Var(Y)}}$$ ### Item-total correlations $$\ r_{iT}, r_{-iT}$$ >前者為某題得分與總分的相關,後者為某題得分與除去某題得分後的總分的相關 $$\ r_{pb}$$ >Point-biserial correlation coefficient ,用在二分變項對連續變項的相關 ### Item-criterion correlations 外部效標與測驗分數的相關性,期待看見正相關 * 效標題(Criterion Item):在驗證上相對困難,因為會有樣本的偏差 ### 統整表格 || 題目 | Missing % | Mean|SD|skewness|d(難度)|D(區辨力)|極端組檢驗t-test|$\ r_{iT}$|$\ r_{-iT}$| | -------- | -------- | -------- |----|----|----|---|---|---|---|---| | Item I| | ||| | | | | | | ## IRT 項目反應理論 ### 項目特徵曲線(Item Characteristic Curve) y-axis是答對機率,x-axis為能力。 ICC不一定是遞增的,要看題目設計 #### Rasch Model Normal ogive: CDF of Normal distribution | 參數數量 | 難度 |鑑別度 |猜對率| | -------- | -------- | -------- |---| | 1PL|( b ) difficulty | | |2PL||( a ) discrimination|| |3PL|||( c )pseudo-guessing parameter| Diffferential items fuctioning, DIF: 能力相同,但因為族群不同導致的表現差異,可分為下面兩種 uniform DIF(恆大於)/ nonuniform DIF(有交點) ### Analysis of Item Alternatives(選項分析) **看簡報比較快哦哦哦哦** ### Analysis of Distraction(誘答力分析) **看簡報比較快哦哦哦哦** ### Other considerations #### Guessing #### Item fairness 需要避免biased test item,藉此減少DIF #### Speed tests * 題目多 * 難度低 ## Pars II——質的分析 ### 一些思考方向跟研究方向 #### Think aloud 請受試者直接說出自己的想法 #### Expert panels 請專家釐清問題的缺點 #### Sensitivity review 族群敏感度這類的概念 #### Face validity 表面效度 #### Test administrator #### Test enviorment #### Test fairness #### Test language #### Test length #### Test taker's guessing 從量化方向思考,猜題無法被評估。 #### Test taker's integrity #### Test taker's overall impressions ## Appendix **Likert 的計分方法:反向題用「(K點量表數+1)-該題得分數」。**
×
Sign in
Email
Password
Forgot password
or
By clicking below, you agree to our
terms of service
.
Sign in via Facebook
Sign in via Twitter
Sign in via GitHub
Sign in via Dropbox
Sign in with Wallet
Wallet (
)
Connect another wallet
New to HackMD?
Sign up