Avtomatik element yaratish - Automatic Item Generation

Avtomatik element yaratish (AIG) yoki avtomatlashtirilgan buyumlarni yaratish - bu jarayonni bog'lash psixometriya kompyuter dasturlari bilan. Bu ishlatadi kompyuter algoritmi a-ning asosiy bloklari bo'lgan test topshiriqlarini avtomatik ravishda yaratish psixologik test. Usul birinchi bo'lib Jon R. Bormut tomonidan tasvirlangan[1] 1960 yillarda, ammo yaqin vaqtgacha ishlab chiqilmagan. AIG ikki bosqichli jarayondan foydalanadi: birinchidan, sinov mutaxassisi element modeli deb nomlangan shablonni yaratadi; keyin test topshiriqlarini yaratish uchun kompyuter algoritmi ishlab chiqilgan.[2] Shunday qilib, har bir alohida elementni yozadigan test mutaxassisi o'rniga, kompyuter algoritmlari kichik elementlar modellari to'plamidan elementlarning oilalarini hosil qiladi.[3][4][5]

Kontekst

Yilda psixologik test, test topshiruvchilarining test topshiriqlariga javoblari insonning har xil xususiyatlari uchun ob'ektiv o'lchov ma'lumotlarini beradi.[6] Psixologik va ta'limiy testlar bilan o'lchanadigan ba'zi xususiyatlarga akademik qobiliyatlar, maktab samaradorligi, aql, motivatsiya va hokazo va ushbu testlar tez-tez shaxslar yoki shaxslar guruhlari uchun jiddiy oqibatlarga olib keladigan qarorlarni qabul qilish uchun ishlatiladi. Kabi o'lchov sifati standartlariga erishish testning haqiqiyligi, psixologlar va o'qituvchilar uchun eng muhim vazifalardan biridir.[7] AIG - bu testlarni ishlab chiqishga yondashuv bo'lib, u zamonaviy kompyuter sharoitida sinov sifatini saqlab qolish va yaxshilash uchun ishlatilishi mumkin, bu erda kompyuterlashtirilgan test sinovlari ko'plab test topshiriqlariga ehtiyojni kuchaytirdi.[5]

Foyda

AIG ishlab chiqarish narxini pasaytiradi standartlashtirilgan testlar,[8] chunki algoritmlar ma'lum bir vaqt ichida inson sinovlari bo'yicha mutaxassisga qaraganda ko'proq narsalarni yaratishi mumkin. U tez va osonlik bilan parallel test shakllarini yaratishi mumkin, bu esa turli xil test topshiruvchilarga bir xil murakkablik yoki qiyinchilik darajasidagi test topshiriqlarining har xil guruhlari bilan ta'sirlanishiga imkon beradi va shu bilan test xavfsizligini oshiradi.[3] Bilan birlashtirilganda kompyuterlashtirilgan adaptiv test, AIG yangi elementlarni yaratishi yoki allaqachon yaratilgan elementlarning qaysi birini boshqarishni tanlashi mumkin, bu testni topshirish paytida test topshiruvchisining qobiliyatiga qarab amalga oshiriladi. AIG shuningdek, juda qiyin bo'lgan, qurilishda kamroq xatolarga yo'l qo'yadigan buyumlarni ishlab chiqarishi kutilmoqda va prototipik buyumlar modelining yanada tizimli ta'rifi tufayli buyumlarning yuqori taqqoslanishiga yo'l qo'yilishi kutilmoqda.[3][9][10]

Radikallar, tasodifiy va izomorfalar

Sinovlarni ishlab chiqish (shu jumladan AIG) har qanday bilim nazariyasiga asoslangan bo'lsa boyitilishi mumkin. Ma'lum bir nazariyadan olingan kognitiv jarayonlar ko'pincha ularni qurish paytida element xususiyatlari bilan mos keladi. Buning maqsadi psixometrik parametrni oldindan belgilash, masalan, buyumning qiyinligi (bundan buyon: β). Ruxsat bering radikallar[9] buyum parametrlariga sezilarli ta'sir ko'rsatadigan va elementni ma'lum bilim talablari bilan ta'minlaydigan tarkibiy elementlar bo'ling. Turli parametrlarga ega bo'lgan ota-ona modellarini ishlab chiqarish uchun element modelining bir yoki bir nechta radikallari boshqarilishi mumkin (masalan, β) darajalar. Keyin har bir ota-ona Irvinga tegishli boshqa elementlarni boshqarish orqali o'z oilasini o'stirishi mumkin[9] deb nomlangan tasodifiy. Tasodifiy hodisalar - bu bir xil oilada har xil narsadan tasodifiy o'zgarishlarga duch keladigan sirt xususiyatlari. Radikallarning bir xil tuzilishga ega bo'lgan va faqat tasodifiy jihatidan farq qiladigan narsalar odatda quyidagicha etiketlanadi izomorflar[11] yoki klonlar.[12][13] Elementlarni klonlashning ikki turi bo'lishi mumkin: bir tomondan, element modeli bir yoki bir nechta ochiq joylarga ega elementdan iborat bo'lishi mumkin va klonlash har bir joyni imkoniyatlar ro'yxatidan tanlangan element bilan to'ldirish orqali amalga oshiriladi. Boshqa tomondan, element modeli o'zgarishlarni kiritish orqali klonlanadigan buzilmagan element bo'lishi mumkin, masalan, fazoviy sinovlar ob'ektining burchagini o'zgartirish.[14] Ushbu elementlarning sirt xususiyatlarining o'zgarishi sinov o'tkazuvchining javoblariga sezilarli ta'sir ko'rsatmasligi kerak. Shu sababli, tasodifiyliklar izomorflarning element parametrlari orasida ozgina farqlarni keltirib chiqaradi, deb hisoblashadi.[3]

Hozirgi o'zgarishlar

Bir qator element generatorlari ob'ektiv tekshiruvdan o'tkazildi.

MathGen - matematik yutuqlarni sinash uchun ma'lumotlar ishlab chiqaradigan dastur. Uchun 2018 yilgi maqolada Ta'limni o'lchash jurnali, mualliflar Embretson va Kingston hosil bo'lgan narsalarning sifat va psixometrik xususiyatlarini baholash uchun keng ko'lamli obzor va empirik sinovlarni o'tkazdilar, natijada buyumlar muvaffaqiyatli bo'ldi va bir xil buyumlar tarkibidan hosil bo'lgan narsalar oldindan taxmin qilinadigan psixometrik xususiyatlarga ega edi.[15][16]

Rachman-Jun 2015 hisoblash modeli yordamida melodik diskriminatsiya testi ishlab chiqildi[17] 2017 yilgi sinov ishtirokchilariga berildi. Yig'ilgan ma'lumotlarga ko'ra P.M. Harrison va boshq., Natijalar kuchli haqiqiylik va ishonchni namoyish etadi.[18]

Ferreyra va Backhoff-Eskudero[19] ular tomonidan ishlab chiqilgan GenerEx dasturidan foydalangan holda, asosiy mahorat imtihonining (Excoba) ikkita parallel versiyasini yaratdi. Keyin ular ichki tuzilishni hamda yaratilgan testlarning psixometrik ekvivalentligini o'rganishdi. Psixometrik sifatning empirik natijalari umuman olganda ijobiy bo'lib, testlar va ma'lumotlar bir nechta psixometrik indekslar bilan o'lchanganidek izchil.

Jerl va uning hamkasblari[20][21][22][23] Element Generator (IGOR) deb nomlangan AIG dasturidan foydalangan[24]) tibbiy bilimlarni sinovdan o'tkazadigan ko'p tanlovli buyumlarni yaratish. IGOR tomonidan ishlab chiqarilgan narsalar, hatto qo'lda yaratilgan narsalar bilan taqqoslaganda ham, yaxshi psixometrik xususiyatlarni ko'rsatdi.

Arendasy, Sommer va Mayr[25] nemis va ingliz tillarida og'zaki nutqni sinab ko'rish uchun og'zaki narsalarni yaratish uchun AIG dan foydalangan, ularni navbati bilan nemis va ingliz tilida so'zlashadigan ishtirokchilarga boshqarish. Kompyuter tomonidan yaratilgan narsalar maqbul psixometrik xususiyatlarni namoyish etdi. Ushbu ikki guruhga qo'llaniladigan buyumlar to'plamlari tillararo langar elementlarining umumiy to'plamiga asoslangan bo'lib, bu ko'rsatkichlarni tillararo taqqoslashni osonlashtirdi.

Xolling, Bertling va Zeuch[26] kutilgan qiyinchiliklar bilan avtomatik ravishda matematik so'z muammolarini yaratish uchun ehtimollik nazariyasidan foydalanilgan. Ular Raschga erishdilar[27] Modelga mosligi va buyumdagi qiyinchiliklarni Linear Logistic Test Model (LLTM) bilan izohlash mumkin[28]), shuningdek Random-Effects LLTM tomonidan. Xolling, Blank, Kuchenbäcker va Kun[29] shunga o'xshash tadqiqotni statistik so'z muammolari bilan, lekin AIG ishlatmasdan amalga oshirdi. Arendasi va uning hamkasblari[30][31] avtomatik ravishda yaratilgan algebra so'z muammolari bo'yicha ishlarni taqdim etdi va AIG sifat nazorati doirasi elementlarning o'lchov sifatiga qanday ta'sir qilishi mumkinligini ko'rib chiqdi.

Tasviriy buyumlarni avtomatik yaratish

IMak to'plami bilan avtomatik ravishda hosil qilingan to'rtta qoidaga asoslangan figurali o'xshashlik dastagi (qo'shimcha ma'lumot uchun Blum & Holling, 2018-ga qarang).

Item Maker (IMak) bu dasturda yozilgan R dasturlash tili figurali o'xshashlik buyumlarini chizish uchun. IMak tomonidan ishlab chiqarilgan 23 ta elementning psixometrik xususiyatlari qoniqarli deb topildi va chiziqli logistik test modeli (LLTM) yordamida qoida yaratishga asoslangan buyumning qiyinligini taxmin qilish mumkin edi.[3]

MazeGen - bu labirintlarni avtomatik ravishda yaratadigan R bilan kodlangan yana bir dastur. Bunday 18 ta labirintning psixometrik xususiyatlari maqbul deb topildi, shu jumladan Rasch modeli lab va labirint qiyinchiliklarini LLTM bashorat qilish.[32]

GeomGen - bu figurali matritsalarni ishlab chiqaradigan dastur.[33] Matritsali matritsa elementlari uchun javoblarni yo'q qilish strategiyalari bilan bog'liq o'lchovlar tarafkashlik manbalarini aniqlagan tadqiqot natijalariga ko'ra, distraktorning ta'sirchanligi javoblarni yo'q qilish strategiyasini izlashga yordam beradi va bu ma'lumotlar ushbu elementlarning konstruktivligini yaxshilash uchun AIG tarkibiga kiritilishi mumkin.[34] Xuddi shu guruh o'rganish uchun AIG dan foydalangan differentsial elementning ishlashi (DIF) va bilan bog'liq bo'lgan gender farqlari aqliy aylanish. Ular avvalgi tadqiqotlarda gender DIF ni namoyish etgan buyumlarni loyihalash xususiyatlarini manipulyatsiya qildilar va ular gender farqlarining ta'sir hajmini baholash, har xil turdagi DIF mavjudligi bilan buzilganligini ko'rsatdilar, ular ma'lum bir dizayn xususiyatlari bilan bog'liq bo'lishi mumkin edi.[35][36]

Arendasy shuningdek, foydalanib aniqlangan psixometrik sifatning mumkin bo'lgan buzilishlarini o'rganib chiqdi elementlarga javob berish nazariyasi (IRT) avtomatik ravishda vizuospatial fikrlash elementlari. Shu maqsadda u ikkita dasturni taqdim etdi, ya'ni: allaqachon aytib o'tilgan GeomGen[33] va Endless Loop Generator (EsGen). U GeomGen AIG uchun ko'proq mos keladi, degan xulosaga keldi, chunki IRT tamoyillari buyumlarni ishlab chiqarish jarayonida kiritilishi mumkin.[37] GeomGen, Arendasy va Sommer yordamida parallel tadqiqot loyihasida[38] predmetlarni idrok etish tartibining o'zgarishi respondentlarning ish qobiliyatiga, ularning qobiliyat darajalariga qarab ta'sir qilishi va bu bir nechta psixometrik sifat ko'rsatkichlariga ta'sir qilishi mumkinligini aniqladi. Ushbu natijalar bilan ular umuman figurali matritsa elementlarining bir o'lchovli taxminiga shubha qildilar.

MatrixDeveloper[39] yigirma beshta 4x4 kvadratli matritsalarni avtomatik ravishda yaratish uchun foydalanilgan. Ushbu buyumlar 169 kishiga qo'llanildi. Tadqiqot natijalariga ko'ra, narsalar yaxshi narsani ko'rsatadi Rasch modeli mos va qoidalarga asoslangan avlod mahsulotning qiyinligini tushuntirishi mumkin.[40]

Birinchi taniqli matritsali generator Embretson tomonidan ishlab chiqilgan,[41][12] va uning avtomatik ravishda yaratgan buyumlari yaxshi psixometrik xususiyatlarni namoyish etdi, chunki bu Embretson va Reise tomonidan namoyish etilgan.[42] Shuningdek, u Internetda mos mahsulot ishlab chiqarish modelini taklif qildi.

Adabiyotlar

  1. ^ Bormut, J. (1969). Muvaffaqiyat nazariyasi bo'yicha test topshiriqlari. Chikago, IL: Chikago universiteti matbuoti.
  2. ^ Gierl, MJ va Haladyna, T.M. (2012). Avtomatik buyumlar yaratish, nazariya va amaliyot. Nyu-York, NY: Routledge Chapman & Hall.
  3. ^ a b v d e Blum, Diego; Xolling, Xaynts (2018 yil 6-avgust). "IMak to'plami bilan raqamli analoglarni avtomatik ravishda yaratish". Psixologiyadagi chegaralar. 9: 1286. doi:10.3389 / fpsyg.2018.01286. PMC  6087760. PMID  30127757. CC-BY icon.svg Ushbu manbadan nusxa ko'chirilgan, u ostida mavjud Creative Commons Attribution 4.0 xalqaro litsenziyasi.
  4. ^ Glas, CA, Van der Linden, VJ, va Geerlings, H. (2010). Adaptiv sinov uchun elementlarni klonlash modelidagi parametrlarni baholash. W.J. van der Linden va C.A.W. Glas (nashr.). Adaptiv sinov elementlari (289-314-betlar). DOI: 10.1007 / 978-0-387-85461-8_15.
  5. ^ a b Gierl, MJ va Lai, H. (2012). Ob'ektlarni avtomatik yaratishda buyum modellarining roli. Xalqaro testlar jurnali, 12(3), 273-298. DOI: 10.1080 / 15305058.2011.635830.
  6. ^ Van der Linden, VJ va Xambleton, R.K. (1997). Mahsulotlarga javob berish nazariyasi: qisqacha tarix, keng tarqalgan modellar va kengaytmalar. R.K. Hambleton, va VJ van der Linden (nashrlari). Zamonaviy buyumlarga javob berish nazariyasining qo'llanmasi (1-31 betlar). Nyu-York: Springer.
  7. ^ Embretson, S.E. (1999). Kognitiv qobiliyatlarni o'lchash masalalari. S.E.da Embretson va S.L. Hershberger (nashr.). Yangi o'lchov qoidalari (1-15 betlar). Mahva: Lawrence Erlbaum Associates.
  8. ^ Rudner, L. (2010). Bitiruvchilarni boshqarish uchun test sinovlarini kompyuterlashtirilgan adaptiv testdan o'tkazish. VJ van der Linden va C.A.W. Glas (nashr.). Adaptiv sinov elementlari (151-165-betlar). DOI: 10.1007 / 978-0-387-85461-8_15.
  9. ^ a b v Irvine, S. (2002). Ommaviy sinov uchun buyumlarni yaratish asoslari. S.H.da Irvin va P.K. Kyllonen (Eds.). Sinovlarni ishlab chiqish uchun buyumlarni yaratish (3-34 betlar). Mahva: Lawrence Erlbaum Associates.
  10. ^ Lai, H., Alves, C., & Jerl, MJ (2009). CAT-ga talablarni qondirish uchun avtomatik elementlarni yaratish. D.J.da. Vayss (Ed.), Kompyuterlashtirilgan adaptiv sinovlar bo'yicha 2009 yilgi GMAC konferentsiyasi materiallari. Veb: www.psych.umn.edu/psylabs/CATCentral.
  11. ^ Bejar, I. I. (2002). Umumiy sinov: kontseptsiyadan to amalga oshirishga qadar Sinovlarni ishlab chiqish uchun mahsulot ishlab chiqarish, eds. S. H. Irvine va P. C. Kyllonen (Mahva, NJ: Lawrence Erlbaum Associates), 199–217.
  12. ^ a b Embretson, S.E. (1999). Sinov paytida narsalarni yaratish: psixometrik muammolar va modellar. Psixometrika, 64 yosh(4), 407-433.
  13. ^ Arendasy, M. E. va Sommer, M. (2012). O'qitish va kasbni baholashning yuqori stavkalari talablarini qondirish uchun buyumlarni avtomatik ishlab chiqarishdan foydalanish. O'quv va individual farqlar, 22, 112–117. doi: 10.1016 / j.lindif.2011.11.005.
  14. ^ Glas, C. A. W. va van der Linden, W. J. (2003). Elementlarni klonlash bilan kompyuterlashtirilgan adaptiv sinov. Amaliy psixologik o'lchov, 27, 247–261. doi: 10.1177 / 0146621603027004001.
  15. ^ Embretson, SE, & Kingston, NM (2018). Avtomatik element yaratish: matematik yutuqlarni yaratish uchun yanada samarali jarayonmi? Ta'lim o'lchovlari jurnali, 55(1), 112-131. DOI: 10.1111 / jedm.12166
  16. ^ Uillson, J., Morrison, K. va Embretson, SE (2014). Matematik yutuqlar elementlari uchun avtomatik element generatori: MathGen3.0. Ta'lim fanlari instituti uchun IES1005A-2014 texnik hisoboti Grant R305A100234. Atlanta, GA: Kognitiv o'lchov laboratoriyasi, Jorjiya, Texnologiya instituti.
  17. ^ Kollinz, T., Laney, R., Uillis, A. va Gartvayt, PH. (2016). Musiqa uslubining hisoblash modellarini ishlab chiqish va baholash. Muhandislik dizayni, tahlil qilish va ishlab chiqarish uchun sun'iy aql, 30, 16-43. DOI: 10.1017 / S0890060414000687.
  18. ^ Harrison, PM, Collins, T., & Myullensiefen, D. (2017). Melodik diskriminatsiya sinovlarida zamonaviy psixometrik metodlarni qo'llash: elementlarga javob berish nazariyasi, kompyuterlashtirilgan adaptiv test va avtomatik element yaratish. Ilmiy ma'ruzalar, 7(3618), 1-18.
  19. ^ Ferreyra, MF, va Backhoff-Eskudero, E. (2016). Validez del Generador Automático de Ítems del Examen de Competencias Basicas (Excoba). Rahatla, 22(1), san'at. 2, 1-16. DOI: 10.7203 / engillashtirish.22.1.8048.
  20. ^ Gierl, MJ, Lay, H., Pugh, D., Touchie, C., Boulais, AP, va De Champlain, A. (2016). Yaratilgan ko'p tanlovli test topshiriqlarining psixometrik xususiyatlarini baholash. Ta'limda amaliy o'lchov, 29(3), 196-210. DOI: 10.1080 / 08957347.2016.1171768.
  21. ^ Lay, H., Gierl, MJ, Byrne, B.E., Spielman, A.I. & Waldschmidt, D.M. (2016). Stomatologiyada tekshiruvlar uchun elementlarning avtomatik ishlab chiqarilishini rag'batlantirish uchun uchta modellashtirish dasturi. Tish ta'limi jurnali, 80(3), 339-347.
  22. ^ Gierl, MJ va Lai, H. (2013). Avtomatlashtirilgan jarayonlar bilan yaratilgan tibbiyotning ko'p tanlovli buyumlari sifatini baholash. Tibbiy ta'lim, 47, 726-733. DOI: 10.1111 / medu.12202.
  23. ^ Gierl, MJ, Lay, H., & Tyorner, S.R. (2012). Ko'p tanlovli test topshiriqlarini yaratish uchun avtomatik element yaratish. Tibbiy ta'lim, 46(8), 757-765. DOI: 10.1111 / j.1365-2923.2012.04289.x.
  24. ^ Gierl, MJ, Zhou, J., & Alves, C. (2008). Baholash muhandisligini rivojlantirish uchun moddiy rejim turlari taksonomiyasini ishlab chiqish. J technol learn baholash, 7(2), 1-51.
  25. ^ Arendasy, ME, Sommer, M., & Mayr, F. (2011). Wordni ravonlik testining bir vaqtning o'zida nemis va ingliz tilidagi versiyalarini yaratish uchun avtomatik element yaratish. Madaniyatlararo psixologiya jurnali, 43(3), 464-479. DOI: 10.1177 / 0022022110397360.
  26. ^ Holling, H., Bertling, JP va Zeuch, N. (2009). So'z bilan bog'liq muammolarni avtomatik ravishda yaratish. Ta'limni baholash bo'yicha tadqiqotlar, 35(2-3), 71-76.
  27. ^ Rasch, G. (1960). Ba'zi bir aql va yutuq sinovlari uchun ehtimol modellar. Chikago: Chikago universiteti matbuoti.
  28. ^ Fischer, G.H. (1973). Lineer logistik test modeli o'quv tadqiqotlari vositasi sifatida. Acta Psixologik, 37, 359-374. DOI: 10.1016 / 0001-6918 (73) 90003-6.
  29. ^ Holling, H., Blank, H., Kuchenbäcker, K., & Kuh, J.T. (2008). Statistik so'zlarning qoidalarga asoslangan elementlarini loyihalash: ko'rib chiqish va birinchi dastur. Psixologiya fanlari har chorakda, 50(3), 363-378.
  30. ^ Arendasy, ME, Sommer, M., Gittler, G., va Hergovich, A. (2006). Miqdoriy fikrlash elementlarini avtomatik ravishda yaratish. Uchuvchi ish. Shaxsiy farqlar jurnali, 27(1), 2-14. DOI: 10.1027 / 1614-0001.27.1.2.
  31. ^ Arendasy, ME, & Sommer, M. (2007). Ta'limni baholashda psixometrik texnologiyadan foydalanish: miqdoriy fikrlash elementlarini avtomatik ravishda yaratish uchun sxemaga asoslangan izomorfik yondashuv. O'quv va individual farqlar, 17(4), 366-383. DOI: 10.1016 / j.lindif.2007.03.005.
  32. ^ Loe, B.S., & Rust, J. (2017). Sezgi labirint testi qayta ko'rib chiqildi: avtomatik ravishda ishlab chiqarilgan labirintlarning qiyinligini baholash. Baholash, 1-16. DOI: 10.1177 / 1073191117746501.
  33. ^ a b Arendasi, M. (2002). Geom-Gen-Ein Itemgenerator für Matrizentestaufgaben. Viena: O'zververlag.
  34. ^ Arendasy, ME, & Sommer, M. (2013). Javoblarni yo'q qilish strategiyasini kamaytirish figurali matritsalarning konstruktivligini oshiradi. Aql-idrok, 41, 234-243. DOI: 10.1016 / j.intell.2013.03.006.
  35. ^ Arendasy, ME, & Sommer, M. (2010). Avtomatik elementlarni yaratish yordamida uch o'lchovli aqliy aylanishda jinslar farqining ta'sir hajmiga turli xil elementlarning hissa qo'shishini baholash. Aql-idrok, 38(6), 574-581. DOI: 10.1016 / j.intell.2010.06.004.
  36. ^ Arendasy, ME, Sommer, M., & Gittler, G. (2010). Kognitiv komponentlarning aqliy rotatsiyadagi jinslar farqiga qo'shgan hissasini o'rganish uchun avtomatik elementlarni yaratish va eksperimental dizaynlarni birlashtirish. Aql-idrok, 38(5), 506-512. DOI: 10.1016 / j.intell.2010.06.006.
  37. ^ Arendasi, M. (2005). Rasch-kalibrlangan buyumlarning avtomatik ishlab chiqarilishi: GEOM va Endless-Loops Test EC figurali matritsalari. Xalqaro testlar jurnali, 5(3), 197-224.
  38. ^ Arendasy, ME, & Sommer, M. (2005). Turli xil sezgir manipulyatsiyalarning avtomatik ravishda shakllanadigan matritsalarning o'lchovliligiga ta'siri. Aql-idrok, 33(3), 307-324. DOI: 10.1016 / j.intell.2005.02.002.
  39. ^ Hofer, S. (2004). MatrixDeveloper. Myunster, Germaniya: Psixologik institut IV. Westfälische Wilhelms-Universität.
  40. ^ Freund, PA, Hofer, S., & Holling, H. (2008). Kompyuterda yaratilgan matritsali matritsali elementlarning psixometrik xususiyatlarini tushuntirish va nazorat qilish. Amaliy psixologik o'lchov, 32(3), 195-210. DOI: 10.1177 / 0146621607306972.
  41. ^ Embretson, S.E. (1998). Mavjud testlarni yaratish uchun kognitiv dizayn tizimining yondashuvi: mavhum fikrlash uchun dastur. Psixologik usullar, 3(3), 380-396.
  42. ^ Embretson, SE, & Reise, SP (2000). Psixologlar uchun javob berish nazariyasi. Mahva: Lawrence Erlbaum Associates.