Ontwerpgericht onderzoek naar parallellisme

(the PI project)

een PhD-project

Onderzoeksaanvraag


Versie: 2003
Onderzoeksinstituut: Centre for Telematics & Information Technology (CTIT)
Universiteit: Universiteit Twente (UT), PO-box 217, 7500 AE Enschede
Faculteit:Gedragswetenschappen (GW), voorheen Educational Science and Technology (EDTE) c.q. Toegepaste Onderwijskunde (TO)
Afdeling: Educatieve Instrumentatietechnologie (ISM)
Geldstroom: Tweede geldstroom
Looptijd: 4 jaar
Onderzoeker: AIO (vacature)
Werkplek: Universiteit Twente (UT)
Beoogd projectleider: dr. ir. Rik Min (CTIT)
Beoogd supervisor: prof. dr. Jef Moonen (CTIT)
Beoogde externe begeleiders/adviseurs: prof. Jeroen van Merrienboer (OU), prof. Anton Nijholt (UT/INF) & prof. Jos Beishuizen (RUL)

Elders lopend project: het Adapt project (onderdeel van het Minerva-project) (EU-geldstroom) (2002-2004)
Elders recent onderbroken project: het Holland Signaal project (Thalens) (1999-2001)
Elders lopend project: het SLO project 'een viskweekvijver in de computer'.

Trefwoorden: vormgeving, concepten, ergonomie, theorievorming, prototype-ontwikkeling, empirisch onderzoek, systeem-ontwikkeling, e-learning, hoger orde courseware, simulaties, leeromgevingen, micro-werelden, taak uitvoering, parallellisme, parallelle informatie, parallelle instructie en parallelle resources.


1. Aanvrager

Naam, titel, voorletters:
Projectleiding: dr. ir. F.B.M. (Rik) Min


2. Titel van het project

Nederlands:
Ontwerpgericht onderzoek naar parallellisme en de achtergronden van de Parallelle Instructie theorie bij taak gestuurde e-learning-omgevingen.

English:
R & D study to parallelism and the foundings of the Parallel Instruction theory in task driven e-learning environments.


3. Aard van het project

[x] AIO-project
[ ] geen AIO-project


4. Samenvatting

Het project wil door ontwerpgericht onderzoek een wetenschappelijke basis leggen onder het concept van 'parallellisme' en de 'Parallelle Instructie' theorie (de 'PI theorie'); een ontwerp-theorie, gebaseerd op de 'cognitive load' theorie en de 'split attention' theorie (Min, 1992 en 1994; Sweller, 1994-2000). Deze theorieén kunnen een verklaring geven waarom het uitvoeren van bepaalde eenvoudige of complexe taken in veel doe-, werk- en leer-omgevingen niet goed lukt.

Tot op heden is de PI theorie en het bijbehorende concept van parallellisme, nog niet goed empirisch onderzocht en bewezen. De middelen en de producten, om ons doel te bereiken, kunnen wij niet ontwikkelen. We hebben wel een serie goedkope prototypen en pre-prototypen gerealiseerd waarmee we veel belovende resultaten hebben geboekt (Tao Yu, Min & Moonen, 2002). Voor ons onderzoek is veel engineeringswerk reeds gedaan en zal door de onderzoekers zelf moeten worden aangepast.

In specifiek opzicht willen we nu nagegaan of in technologisch rijke omgevingen de efficiency en effectiviteit van leer- en werktaken wordt verhoogd door speciale vormgeving of speciale dimensionering van de werkplek. Daarbij zal speciaal allerlei condities van userinterface en de beeldscherm-opbouw onderzocht worden, gebaseerd op de inzichten uit de PI theorie, in relatie tot taken.

In meer algemeen opzicht willen wij onderzoek uitvoeren met het oogmerk, om via optimalisatie van taken, leerprocessen en bijkomende coaching, in relatie tot het parallel aanbieden van stimuli - cueing - te komen tot vergroting van de studeerbaarheid van het onderwijs. Door een eerdere onderzoeker is 2 jaar veel voorwerk gedaan; o.a. bij Holland Signaal (Claessens, 1999). Wij hebben in dat onderzoek met leeromgevingen, gebaseerd op simulaties en het uitvoeren van taken achter beeldschermen, grote overeenkomsten ontdekt tussen de 'dual code'-theorie, de 'split attention'-theorie, de cognitive load theorie en onze parallel instruction theorie. (Sweller, 1994; Mayer & Moreno, 2000; Min, 2002; Tao Yu, 2002).

Het hier voorgestelde onderzoeksproject wil (ten eerste) een serie best practice-voorbeelden genereren en (ten tweede) bijdragen aan een betere theorievorming binnen de instrumentatietechnologie en in het bijzonder aan de methodologie van het ontwerpen en vormgeven van effectieve en efficiënte van multimediale leer-, werk- en doe-omgevingen.

Er zal worden samengewerkt met de Open Universiteit (OU), de stichting Leerplan Ontwikkeling te Enschede (SLO), de Business groep van het Van Hall Instituut Leeuwarden, Holland Signaal (nu: Thales Ned. BV) Hengelo, ROC Hengelo, Shell Rijswijk en het Telematica Instituut (TI) Enschede. Contacten met hen maken het mogelijk daar experimenten uit te voeren. Deze bedrijven en instellingen hebben zich - mede door de meest recente publicaties - allemaal zeer positief uitgelaten over ons werk aangaande parallellisme (Min, 2002; Tao Yu, 2002).

5. Engelse samenvatting

The research wants to establish a scientifical foundation of the concept of 'parallelism' and the Parallel Instruction theory, the PI theory, in working- and learning environments (in relation to tasks). Till now this concept makes specially researches in simulation environments and if the concept is valid in more general work- and learning environments, particularly with teleworking- or telelearning-situations in web situations (Min, 1992, 1994, 1996 and 2002).

In a specific view there will be traced if in a technological rich environment the efficiency and effectivity of learning- and working tasks will be increased by a special design of levels of the workingenvironment. Specially the user-interface and the screen layout will be researched and analysed.

In a more general view the research will be done to optimalizing the tasks, the learning processess and the coaching, in connection with offering stimuli parallel for increasing the 'stuurdeerbaarheid' of education. Moreover the research will contribute to theoretical design theory within the instrumentation technology and in particularly the methodology of designing and composite of effective and efficiente multimedial working- and learning- environments.

There is a cooperation in our netwerk with the Open University in Heerlen, SLO Enschede, ROC Hengelo, the Van Hall Instituut Leeuwarden, Holland Signaal Hengelo, Shell Rijswijk, the Telematica Instituut Enschede and others in the Centre of Telematics and Information technology. In this netwerk we can use subjects and research time for our experiments.


6. Vooronderzoek

6.1 Vormgeving van multimediale leer- en werkomgevingen

De centrale onderzoeksproblematiek van de vakgroep is het zoeken naar theoretische inzichten en ontwerprichtlijnen voor het samenstellen van optimale media-taak combinaties in het bijzonder bij het gebruik van digitale netwerken en bij teleleren en tele-werken.

Media-taak combinaties worden steeds meer gebruikt in een context waarbij leer- en werkomgevingen ter beschikking worden gesteld die door individuen of groepjes van twee personen zonder inmenging van anderen worden gebruikt. Een centraal kenmerk van dit soort electronische leer- en werkomgevingen is meestal de multimediale dimensionering en daarbij de beschikbaarheid over interactiviteit.

In eerder onderzoek, rond 1992, en in later rond 2002, zijn voortdurend de consequenties van gebruik van interactieve multimedia op het leer- en werkgedrag bestudeerd en empirisch onderzocht. Vooreerst werden veelal kwalitatieve analysemethoden gebruikt, maar omdat uit de op kwalitatieve analyse gebaseerde benadering voldoende stabiele elementen konden worden geïdentificeerd is rond 1996 een kwantitatief (vergelijkend) onderzoek uitgevoerd (ter Burg en Groenewoud, 1996). Dat is later door Claessens (PhD) en Tao Yu (M Sc), in steeds gewijzigde vorm herhaald. In zijn promotie-onderzoek bestudeerde Van Schaick Zillesen (1990-1992) bepaalde simulaties en de rol van papieren materiaal versus electronische instructie materiaal daarbij. Daarbij werd het papieren materiaal naast of op een beeldscherm beschikbaar gesteld. Tegelijkertijd werden in die periode ook in andere projecten vergelijkbare onderzoeken aangaande taakuitvoering en beeldschermgebruik uitgevoerd (afstudeerprojecten), o.a. door Gmelich Meijling bij de Akzo, door Ter Hedde bij Fokker, door W.J. Zwart bij het Waterloopkundig Laboratorium, door Wolters en Wetterling bij de SLO en door Gritter bij het ArcView-project van de University of Southampton.

In recent promotie-onderzoek bij ons, heeft mw. M. Claessens het parallellisme-project nieuw impulsen gegevenen en heeft Tao Yu haar inzichten deels verder kunnen concretiseren; hypotheses werden door hem scherper gesteld. (Tao Yu, 2002; Claessens, 2001; Min, 2000). Het onderzoek van Claessens werd helaas wegens prive omstandigheden na twee jaar beeindigd. Er lopen momenteel vele studies naar web-based simulaties en animaties met java-applets en veelsoortige en veelvormige instructiematerialen. Onze studenten werken voortdurend aan nieuw vormgegeven producten; o.a. in samenwerking met de Stichting Leerplan Ontwikkeling (SLO) en het Van Hall Instituut; o.a. met het project 'een viskweekvijver in de computer'. Diverse prototypes worden continu getest, o.a. op gebruikersgemak (usability) en motivatieverhogende werking. De samenwerking binnen ons huidige netwerk zal gericht zijn op het uitwerken van ideeen, voorstellen en mogelijke implementaties van parallellisme bij allerlei soorten applicaties, voornamelijk hypermedia-applicaties maar ook online en offline doe-, werk- en/of leer-omgevingen.

Als zodanig zal specifiek voor de genoemde vakgebieden onderzocht worden in hoeverre efficiency en effektiviteit van klanten-trainingen verbeterd kunnen worden door zorgvuldige analyse van beschikbare informatie, zoals tijdens de ontwerp, produktie, assemblage en test-processen wordt gegenereerd.

Maar we willen nu met deze projectaanvraag bij STW een kwaliteitssprong maken; zowel technisch instrumentatietechnologisch als cognitief wetenschappelijk. Gebleken is dat dit type onderzoek veel engineeringswerk met zich mee brengt.

6.2 Parallellisme

Vanuit deze serie onderzoeken ontstond in 1992 een bepaalde hypothese; een theorie (de PI-theorie) rondom het verschijnsel van 'parallellisme' als oplossing voor het inrichten van werkplekken. Dingen op een beeldscherm moeten namelijk voor zichzelf spreken en alle benodigde informatie-elementen moeten relatief dicht bij elkaar staan of, zonder al te grote grote cognitieve belasting, eenvoudig 'bij elkaar kunnen worden gebracht'. De afgelopen vier jaar hebben we de achterliggende veronderstellingen theoretisch beschreven (Min, 1998-2002; Claessens, 1999; Tao Yu, 2002). De PI theorie van Min geeft vanuit de cognitieve psychologie een verklaring voor problemen bij digitale leer- en werk-omgevingen rondom 'gewone' beeldscherm. Deze theorie kan wellicht zelfs ook uitsluitsel geven over het falen van traditionele courseware, op ms.dos gebaseerde applicaties, cd-i's, hypermedia in het algemeen, en sommige web-sites on het bijzonder.

Wij willen, middels empirisch onderzoek, bewijsvoering vinden voor de onderliggende fenomenen uit de cognitieve psychologie die een rol spelen bij onze hypotheses uit de PI theorie. (Deze hypotheses staan verderop in de tekst.) Als dit lukt hebben we gevonden waarom, en welke soort gebruikers, in web-sites, hypermedia, cd-roms of cd-i's zo vaak het spoor bijster raken. We geven hier vier voorbeelden van omgevingen waarin gebruikers (snel) het spoor bijster (kunnen) raken.

Duidelijker, korter en krachtiger kan hiermee het nut van parallellisme, en dus ook het nut hiervan bij het gebruik van beeldschermen en userinterfaces, niet worden aangetoond. Bij al deze voorbeelden wil de gebruiker - vaak, graag en steeds op een of andere manier - iets in zijn/haar werkgeheugen vergelijken met iets anders. Dat is heel essentieel bij het werken of bij het uitvoeren van een taak achter een beeldscherm. Er zijn in de software engineering vele van dit soort - zoals Sweller dat noemt - split attention situaties (twee dingen A en B willen kunnen vergelijken). Meestal moet of wil een gebruiker zijn probleem (A) op een beeldscherm kunnen oplossen. Om een juiste keuze te kunnen maken of een probleem te kunnen oplossen zijn minstens twee gescheiden of meerdere informatie-bronnen (B), parallel aan elkaar, nodig. De afstand tussen het probleem (A) en de informatie (B) is hierbij een essentiele variabele; waard om empirisch onderzoek naar te doen.

Speciaal multi-processing, multi-windowing werkplekken eisen op het punt veel aandacht. Ontwerpers van userinterfaces dienen - conform deze theorie - rekening te houden met de manier waarop gebruikers informatie opnemen en enige momenten kunnen vasthouden, alvorens ze er iets mee gaan doen. Benshoof en Hooper (1993) geven op dit punt - om overzicht over processen op beeldschermen te kunnen houden - aanwijzingen dat bij instructie aan opgroeiende kinderen er een relatie is tussen 'multiple-windowing environments' en geheugenproblemen (en dientengevolge: geheugenstrategieën). Ook Barfield (1994) doelt daar op in zijn paper 'learning about user userinterfaces for learning'. Deze onderzoeker geeft ook richtlijnen voor bepaalde typen dynamische (en met name visuele) feedback en aanwijzingen om leerling in de gelegenheid te stellen om op een goede manier een mentaal model te laten opbouwen. Ook in andere vakgebieden (cinomatografie) waren vergelijkbare verschijnselen (van een beperking in het werkgeheugen en des-orientatie) waargenomen. De theorie die aan deze oplossing ten grondslag ligt is nog niet helder omschreven en geformuleerd, en kan - volgens de indieners van dit voorstel - met de methode van Broers (1994) nauwkeuriger worden vastgelegd (Broers, 1994).

In het first year PhD rapport van Claessens is aangegeven dat er bij het parallellisme-concept in open leersituaties vele soorten informatie als 'instructie' mag worden beschouwd (Claessens, 1999; Min, 1996). Een aantal van deze instructie-vormen of instructie-onderdelen zijn:

Al deze vormen van informatie of instructie zijn van belang bij het ontwerp van de uiteindelijke werk-omgeving en moeten zich (volgens Min) op het juiste tijdstip en op de juist plaats bevinden in het zicht van de gebruiker (in 'view' c.q. 'parallel'). Deze vormen van instructie worden hier input genoemd. De arrangering en de leesbaarheid van deze type onderdelen zijn zeer belangrijk, vooral bij allerlei vormen van tele-learning, distance-learning en bij distributed learning environments waarbij niemand aanwezig is om de gebruiker te helpen. Elbro en Christoffersen verrichte aangaande de 'indringendheid' van instructieteksten op beeldschermen in 1988 een interessante studie (Elbro & Christoffersen, 1988). Ook Oliver deed iets dergelijks in 1994 (Oliver, 1994). Hij onderzocht het verschil in lezen van papier versus lezen van teksten op beeldschermen. De achtergronden en de rationale bij het arrangeren van deze losse onderdelen in de werk-omgeving (in digitale of niet-digitale vorm) is het onderwerp van dit onderzoek. Ook al de soorten voorkomende vormen van 'gestuurde' feedback (als een soort cues) zijn in dit soort electronische leer-, werk- of doe-omgevingen van belang, zoals:

Deze vormen van feedback is echter output van een niet-reversibele soort en inhoud, d.w.z. met voor de gebruiker niet te voorspellen volgorde of soort informatie-elementen. Ook dìe informatiestromen moeten, goed geordend, volgens Min en anderen, op de juiste plaats en in de juiste verhouding in de leeromgeving worden opgenomen (en allemaal 'in view' staan). De dual code theorie kan hierbij helpen.

6.3 De hypothese achter het concept van 'parallellisme'

De PI-theorie is op de eerste plaats een ontwerp-theorie; een theorie die bij het ontwerp gebruikt kan worden en rekening houdt met de geheugenstrategieën van gebruikers. De cognitieve psychologie kan volgens ons hiervoor een verklaring leveren. (Zie briefwisseling met prof. Sweller, dr. Beishuizen en prof. van Merrienboer; bij ondergetekende in te zien) Bij nadere bestudering bleek keer op keer dat de combinatie simulatie-instructie die op een traditionele manier gepresenteerd was (zoals instructie op papier; beschikbaar naast de monitor), betere resultaten opleverden dan andere oplossingen waarbij de simulatie en de bijbehorende instructie via een computersysteem (met een hypertekst-systeem) gecombineerd werden. Een experiment voor een opdracht bij de AKZO in Hengelo bracht de onderzoekers op het spoor van de gebreken van het werken met beeldschermen en de daarbij toegepaste software-techniek (Van Schaick Zillesen & Gmelich Meijling et al., 1995). Leeromgevingen waarbij de instructie-component niet goed werkte bleken in het algemeen veel te sequentieel ontworpen en veel te star gekoppeld te zijn. Dat wil zeggen de instructie was te veel 'gesynchroniseerd met de simulatie' en te dwingend, terwijl de instructietekst geheel van het beeldscherm verdween als er met de simulatie werd gewerkt.
De literatuur maakt weinig melding van condities (per doelgroep, per taak en per andere categorie) waaronder bepaalde ontwerpregels gelden of niet gelden. Laat staan dat er gerichte aanbevelingen worden gedaan. We weten weinig over welke type personen welke type werk-omgevingen behoeven en in welke interactie- of presentatievorm een specifiek product gestoken dient te worden. (Op een paar uitzonderingen na zoals Elbro & Christoffersen, 1988 en Oliver, 1994) Vaak worden alle type werkvorm met één en dezelfde soort oplossing afgevangen. Wij hebben ontdekt dat dat niet correct is. Grote groepen mensen vallen bij het gebruik van een type werkomgevingen daardoor tussen de wal en het schip.

Het werk van Benshoof en Hooper, maar ook van Barfield en Min geven een indicatie dat er voor de inrichting van leer- en werkplekken nog geen algemeen aanvaarde oplossingen zijn (Barfield, 1994; Benshoof en Hooper, 1993; Min, 1996b). Het idee dat in het kader van het hierboven genoemde 'parallellisme' is geformuleerd, kan bijdragen aan een oplossing. Kwalitatief onderzoek naar de betekenis van parallellisme kan voor de ontwerpers van moderne multimediale werk- en leeromgevingen van grote waarde zijn. Immers, op basis daarvan kunnen opdrachtgevers overtuigd worden van het nut van bepaalde voorzieningen: grotere monitoren, meerdere schermen of gewoon papieren instructiemateriaal? Bij teleleer-situaties is een goed ontworpen werkplek nog belangrijker dan in traditionelere situaties, want er is geen fysieke hulp aanwezig.


7. Projectbeschrijving

7.1 Wetenschappelijk kader

De theorie, zoals wij die willen opstellen, sluit aan bij het gedachtengoed van de cognitive load theorie (Sweller, 1994-2001). Ook speelt het split attention effect een rol. Maar welke rol en hoe? We willen dat de cognitieve belasting, met name voor irrelevante zaken, zo klein mogelijk is. Dat hangt samen met hoeveel capaciteiten iemand heeft en of zijn motivatie om iets achter een beeldscherm op te (willen of kunnen) lossen hoog of laag is.
Onze (voorlopige) veronderstellingen (c.q. hypotheses) zijn: dat het nut van parallellisme bij open werk-omgevingen te maken heeft met

Empirisch onderzoek moet uitwijzen of deze veronderstellingen, in relatie tot eerder genoemde facetten, waaronder deze uitspraken, wetenschappelijk zijn te onderbouwen. Onze theorie zal vormgegeven moeten worden in termen die de wetenschap accepteert. Theorievorming (in algemene zin) kan (hoogstwaarschijnlijk) het beste op basis van de door Broers in 1994 uitgewerkte ideeen rond zijn 'facet theorie' worden gedaan (Broers, 1994). Deze methode is volgens ons (en anderen) geschikt om theorieën (qua formulering en in toetsbare hypothese-vorm) op te stellen. Voor het opstellen van een theorie (in het algemeen) is het noodzakelijk om allerlei condities en facetten te onderscheiden (Broers, 1994). Voor de PI theorie zijn dat facetten zoals de complexheid van het probleem, de intensiteit van de instructie, en de hoeveelheid intelligente feedback. De verschillende condities die we kiezen zijn nog niet duidelijk, maar we denken aan verschillende soorten vormgeving, visuele en/of tekstuele instructie, en slimme en/of minder slimme dynamische graphics. Het fenomeen van parallellisme en de achtergronden van de PI-theorie zullen dus verder in relatie tot allerlei 'facetten' moeten worden omschreven. Fenomenen, determinanten en ontwerpvariabelen dienen geanalyseerd en gedefinieerd te worden. Dat is grotendeels de taak van de onderzoeker. De onderzoeker moet van alle facetten de juiste formulering en de juiste condities opstellen en het resultaat (de theorie) toetsen aan praktijkvoorbeelden. Garlikov geeft recent hiervoor een interessante theoretisch raamwerk beschreven (Garlikov, 1995). De uiteindelijk opgestelde theorie, over de mate van parallellisme, dient de onderzoeker - middels empirisch onderzoek - te bewijzen. De onderzoeker ontkomt er niet aan karakteristieke prototypes te (laten) vervaardigen en het gedrag empirisch te onderzoeken. (Zie elders.)

7.2 Problemen en probleemstelling

Problemen

Er zijn een aantal problemen binnen interactieve werk-omgevingen. Er zijn ten eerste problemen in een open werk-omgeving met de aanbiedingswijze of presentatievorm bij instructie-materialen; ten tweede problemen met het manipuleren van windows en ten derde het door Min zogenoemde 'lineaire' karakter van monitoren. (Min, 1996).

Instrumentatie-technologen dienen de problemen echter aan de bron aan te pakken. Niet alleen door het probleem te benoemen, maar vooral ook door op een wetenschappelijke manier de achtergronden bij specifieke problemen product-gericht, empirisch te onderzoeken en daarover te publiceren. Wetenschappers uit deze disipline onderbouwen hun richtlijnen nog te weinig wetenschappelijk. Men geeft wel richtlijnen, maar nog te weinig 'het waarom' en onder welke condities richtlijnen of methodologieën gelden.

Onderzoeksframework

Nieuwe ontwikkelingen in ICT, zoals teleleren, e-learning, training on the job, blended learning, en via die concepten de wereldwijde toegang tot bronmateriaal, en de steeds krachtiger systemen, grotere monitoren, en betere multimediale mogelijkheden, openen nieuwe dimensies voor parallelle instructiemethoden. De onderzoeksvragen zijn daarom heel divers. Ze variëren van eenvoudige technische vragen tot psychologische vragen. Om er enkele te noemen: Hoeveel vrijheidsgraden mag een leerplek voor teleleren hebben? Hoeveel vrijheidsgraden kan een gebruiker eigenlijk aan? Verschilt dat per type leerling? Waarom kan een gebruiker bij een eenvoudige taak, achter een monitor soms niet onthouden wat hij/zij zoëven zag? Waarom wil een gebruiker kunnen refereren en vergelijken? Hoe ver moeten windows uit elkaar liggen? Waarom willen sommige studenten persé iets - op papier - kunnen opschrijven? Waarom kan een leerling soms wel zijn aandacht bij een les houden en soms enorm afgeleid worden? Waarom kunnen kinderen met spelletjes wel direct werken en met educatieve software niet? Waarom is bij het ene programma wel een handleiding nodig en bij een ander programma niet? Heeft het nut ergens in een hoekje van het beeldscherm een video-window te hebben waar de leraar - voor in de zaal - je kan toespreken? Maar ook: Is de behoefte aan parallellisme bij sommige personen soms een kwestie van iemands slechte kort geheugen?

De onderzoeker dient al zijn opgestelde (en bruikbare) hypotheses conform de methode (c.q. theorie) van Broers te formuleren c.q. definieren. Daarna dienen er experimenten gedaan te worden om de uitspraken in relatie tot de condities (en dus de theorie) te bewijzen.

Onderzoeksvragen

In die context zijn een aantal onderzoeksvragen relevant. We hebben er ook af en toe onze hypotheses achter gezet. T.w.:

Bekeken zal worden wat de invloed is van een groot aantal facetten van de leerplekinrichting. Onderzocht zullen worden: (1) ontwerp-aspecten, (2) structuur-aspecten en (3) communicatie-aspecten, met name on-line communicatie. Onderzocht worden dìe ontwerp-variabelen, parameters, randvoorwaarden of systeem-determinanten, die de bruikbaarheid en de inzetbaarheid van een programma voor de lerende en de docent vergroot en die van belang zijn om de leer- en werk-doelen zo gemakkelijk mogelijk te kunnen halen. De onderzoeker zal zich zelf moeten zien te beperken in al de mogelijkheden die de(ze) voorstudie oplevert.

7.3 Wetenschappelijk en praktisch belang: utilisatieplan

Parallellisme heeft bijgedragen aan het vinden van een oplossing voor een aantal praktijkproblemen, waaronder een probleem dat Randstad Holding BV bij een plannings-systeem (op een beeldscherm) bij hun werkmaatschappijen en plant-managers in Europa, had. Dit probleem werd door het bureau Gritter en Koopal te Hengelo in samenwerking met TO en het TO-lab, en met behulp van het parallellisme concept binnen een jaar opgelost (in de periode 1996 - 1999). R. Min was toendertijd de adviseur van dit bedrijf Gritter en Koopal. Het door dit bedrijf ontwikkelde programma is daarna, wereldwijd, in 47 werkmaatschappijen van de Randstad Holding BV, ook daadwerkelijk in productie geweest. (De projectmedewerkers waren P. Jensema en J. de Wit.)

Onze ideeen hebben ingang gevonden elders; mede door een recente publicatie in het tijdschrift 'Informatie' van het Nederlands Genootschap voor Informatici (NGI). Een aantal voor ons relevante bedrijven heeft belangstelling getoond. Een bedrijf heeft zelfs een werkplek voor onze eerste onderzoekster (mw. M. Claessens) gereserveerd. Het Twentse bedrijf Holland Signaal te Hengelo, dat nu Thales Nederland BV heet, heeft zodanige interesse getoond dat mw. Claessens daar twee jaar onderzoek naar parallellisme bij complexe taken heeft kunnen doen. In twee researchgroepen binnen dat bedrijf hebben we contacten: bij de afdeling opleiding en de afdeling virtual reality.

In het Adapt-project van het EU Minerva-project - waarin wij participeren met TU Eindhoven, Universiteiten in de UK en Italie - zal parallellisme een grote rol gaan spelen bij de interface van een adaptief systeem dat onze partners momenteel ontwikkelen en in Twente verder in ons onderwijs zullen onderzoeken.

Er wordt door de indieners van dit project samengewerkt met de andere onderzoekers van ons Centrum voor Telematica en Informatietechnologie (CTIT) en het Telematica Instituut (TI) alhier. We willen via het projecten Freeband, KP6 en ICES/KIS samenwerken. Ons voorstel past in de onderzoekslijn van de vakgroep en het onderzoeksinstituut CTIT (telewerken; electronische snelweg) en de onderzoeksschool ICO (interactieve leermiddelen; ontwerpgericht onderzoek). De indieners van dit voorstel (projectleider en supervisor) participeren zowel in het CTIT alsmede deels ook in het ICO. (Waar en hoe de betreffende AIO wordt gestationeerd laten we over aan de dekaan van TO, de voorzitter van de vakgroep ISM en de bovengenoemde projectleider.)

7.4 Beoogd resultaat

De output uit het onderzoek zal wetenschappelijk gezien van verschillend karakter en aard zijn: producten, theorieen, regels, ontwerpregels en wetenschappelijk artikelen (o.a. een proefschrift).

Producten.

We verwachten heel concreet dat we met dit onderzoek een groot aantal verschillende versies van reeds bestaande werk- en/of leer-systemen krijgen.

Een theorie

We verwachten dat we een goede onderbouwing en bewijs krijgen voor onze hypotheses aangaande onze PI theorie. Deze theorie en de ideeën rondom het begrip parallellisme worden door de onderzoekers geacht een oplossing te bieden voor een aantal veel voorkomende problemen bij het inrichten van onderwijskundig verantwoorde, interactieve multimediale leer- en werkomgevingen. En zal bijvoorbeeld een oplossing bieden voor het probleem van het ongebruikt laten van bepaalde type multimedia in het onderwijs en waarom docenten van sommige vormen van hard- en software een afkeer hebben gekregen? Wij verwachten dat we de PI theorie kunnen uitbouwen tot een algemene theorie op het gebied van informatiebehoefte, tijdens het werken met computers in het algemeen, en dat we PI theorie dan de 'parallelle informatie' theorie dienen te noemen.

Regels c.q. ontwerpregels

Het project moet uitmonden in resultaat-regels gebaseerd op onderzoek van bepaalde combinaties van facetten en/of ontwerpvariabelen, zoals:

De PI-theorie heeft - naar onze mening - vooral ook betekenis voor andere soorten interactieve doe-omgevingen dan alléén maar voor leer-omgevingen en alléén maar voor instructie. Het toepassen van inzichten uit deze theorie (over het werkgeheugen-gebruik) geven ontwerpers hopelijk een houvast bij het ontwerpen van nieuwe producten. Dit onderzoek zal mede moeten uitwijzen welke psychologische parameters en variabelen samen met andere ontwerp-variabelen er bij de gebruiker en bij de software een hoofdrol spelen en waarom en onder welke condities de gebruiker in een dergelijke 'doe-omgeving' optimaal tot ontplooiing komt.

Kennistoename.

We verwachten een kennistoename qua methoden en technieken voor het ontwerpen van multimedia-producten en moderne werk- en/of leer-omgevingen binnen het vakgebied van de instrumentatietechnologie en in de ontwerpwetenschappen en ontwerp-methodologie. We verwachten een kennistoename op het gebied van de vormgeving, inrichting en de arrangering en de human-computer interaction (HCI). We verwachten ook een kennistoename op het gebied van hoe - gegeven een bepaalde werk- of leertaak - er gekozen kan worden uit vastliggende en wetenschappelijk beproefde gegevens op het gebied van: design choices, human-computer interfaces, mediakeuzes, een mogelijk verbeterde 'enriched' design cycle en bij toekomstige analyses.

7.5 Inhoudelijke referenties (betreffende het onderwerp)

Agelink, E. ; W. de Boer; N. Tebbe and O. Peters (1997),
The parallel instruction theory; a philosophy for multiwindowing environments. Paper. This article has been made as an assignment for the course 'Capita Selecta Instrumentation Technology'. University of Twente Enschede. (projectleader: R. Min).

Barfield, L. (1994),
Learning about user userinterfaces for learning; science, art of craft? Interact, vol. 1, no. 4, 8-10.

Benshoof, L.A., en S. Hooper (1993),
The effectes of single- and multiple-Window Presentation on Archievements During Computer-Based Instruction. J. of Comp. Based Inst. vol.20, no.4, 113-117.

Broers, N.J. (1994),
Formalized theory of appraisive judgments; a general methodology for questionnaire research integrating facet design, theory construction and psychometrics. PhD thesis, Kath. Univ. Nijmegen.

Claessens, F.F.M. (1999),
The effect of different ICT-designs on learning specific tasks. First year report of PhD study; period: jan. - oct. 1999; 127 pages (supervisor: Jef Moonen; projectleider: Rik Min)

Claessens, M., R. Min & J. Moonen (2000),
The use of virtual objects in multimedia for training procedural skills; a theoretical foundation (short paper on the web) In: proceedings IWALT, Intern. Workshop Adv. Learning Technology, IEEE Learning Technolology Task Force (4-6 dec 2000 Palmerston North, New Zealand) p. 229-230. IEEE Computer Society, Los Alamitos, PR00653; ISBN 0-7695-0653-4 (Eds. Kinshuk, C. Jesskope & T. Okamoto)

Elbro, C. and J. Christoffersen (1988),
Reading in a moving text-window: differences between fast and slow adult readers. Univ. of Copenhagen. Paper in bezit van indieners.

Garlikov, R. (1995),
Philosophy of science: theories. Discussie op AERA lijst C. (15 okt. 1995) Tekst in bezit projectgroep. 8 pagina's.

Hart, H.'t, J. van Dijk, M. de Goede, W. Jansen en J. Teunissen (1996),
Onderzoeksmethoden. Boom, Meppel. ISBN 90.5352.238.7

Kroes, P. (1996),
Ideaalbeelden van wetenschap. Boom, Meppel. ISBN 90.5352.249.2

Mayer, R. E. and R. Moreno (2000),
A split attention effect in multimedia learning: Evidence for Dual Processing Systems in Working Memory. J. of Educ. Psych., Vol. 90, no. 2, p. 312-320.

Merrienboer, J. J. G. van, J.G. Schuurman, M.B.M. de Croock and F.G.W.C. Paas (2002),
Redirecting learners' attention during training: effects on cognitive load, transfer test performance and training efficiency. Learning and Instruction, Vol.12, No.1, p.11-37.

Min, F.B.M. (1996b),
Parallelism in Working, Learning and Doing Environments; the Parallel Instruction Theory for Coaching in Open Learning Environments. In: the proceedings of EuroMedia 96; Telematics in a multimedia environment, dec. 19-21, 1966; A publication of the society for computer simulation International (SCS) (Eds. A. Verbraeck & P. Geril) Ook uitgebreid met 8 figuren en screendumps op het web beschikbaar onder: www.to.utwente.nl/user/ism/min/Paper1.htm

Oliver, R. (1994),
Proof-reading on paper and screens: The influence of practice and experience on performance. J. of Comp. Based Instr., Vol. 20, no. 4. (118-123).

Papert, S. (1980),
Mindstorms; children, computers and powerfull ideas. Basic Books Harper. ISBN 0.465.04629.0.

Parreren, C.F. (1978),
Psychologie van het leren I. Van Loghum Slaterus, Deventer. ISBN 90.6001.509.6.

Preece, J. (1994),
Human-Computer Interaction; Addison-Wesley. ISBN 0-201-62769-8.

Reuling, A. (1986),
Methodologieën; een inleiding in onderzoeksstrategieën, H. Nelissen, Baarn. ISBN 90.244.0989.6.

Schaick Zillesen, P.G. van, M. Gmelich Meijling, B. Reimerink en F.B.M. Min (1995),
Computer support of operator training based on an instruction theory about parallelism. Kluwer Academic Publishers (Eds: M. Mulder, W. Nijhof en R. Brinkerhof). ISBN 0-7923-9599-9. p.209-226.

Sweller, J. (1994),
Cognitive Load Theory. Learning & Instruction. vol. 4; pp 295-312.

Sweller, J., Merrienboer, J. J. G. van, and Paas, F. G. W. C. (2001),
Cognitive Architecture and Instructional Design. Educational Psychological Review, Vol. 10, No. 3, p. 251-296.

Yu, Tao (2002),
Empirical study to Cognitive Load and the PI theory with well-designed products for procedure skills and parallel instructions. Final Project of the Master Program: Educational and Training System Design (ETSD); Master Thesis; University of Twente; Graduation committee: Jef Moonen & Rik Min

Zwart, W. J. (1988),
FLOWSIM: een computersimulatieprogramma voor het waterloopkundig laboratorium met GEM op Atari 1040ST gebaseerd op het wiskundig model WAFLOW; M Sc thesis, internal publication, University of Twente,Enschede (in cooporation with the dutch Waterloopkundig Laboratorium, Delft / Marknesse, Holland, J. Moonen en F.B.M. Min)


8. Planning van het onderzoek

Samengevat kan het onderzoek, zoals gesteld in sectie 7, in de tijd (en in maximaal vier jaar), als volgt worden uitgevoerd:

In het 1e jaar:
Gedurende het eerste jaar zal de 'requirements analysis', de 'design analysis' en de 'specification'-fase moeten worden uitgewerkt. Op basis van een literatuursearch dient er een studie te worden gemaakt naar de virtuele wereld van het web, de architectuur van werk- en leer-omgevingen die daar en elders (bijvoorbeeld op cd-roms) voorkomen, faciliteiten te bekijken en eventueel aan te vragen die mogelijk nodig zijn. Aansluiting te zoeken bij gangbare en minder gangbare onderzoeken en onderzoeksterminologie. Colleges te volgen of deel te nemen aan colleges van collega's in de vakgroep of in dezelfde vakgebied. Er zullen wat analyse met bestaand pre-prototypes (van ISM en TO-lab) moeten worden gemaakt. In dit jaar moet ook duidelijk zijn wat voor componenten en hoe de architectuur er van een ideale werk- en leeromgeving er uit ziet.

In het 2e jaar.
In het tweede jaar zal de onderzoeker bezig moeten gaan met: 'development and experimental testing of prototype variants'. In dat jaar moet ook helder zijn welke varianten en welke facetten er een rol zullen gaan spelen in het verdere onderzoek. Op basis van literatuur onderzoek en gesprekken met experts moeten de dimensies en de categorieën vaststaan, d.w.z. voor praktische en experimentele redenen. En verder zal aan de orde moeten komen:

Het ontwerp van ideale werk- en leer-omgevingen en de creatie van een 'set of variant' moet afgerond worden in deze fase; 'experimenting' en 'drawing design decisions' ook. In deze fase moet ook duidelijkheid komen welke populatie proefpersonen genomen wordt. TO-studenten kunnen hierbij ingeschakeld worden.

In het 3e jaar
In het derde jaar moet het eindopzet van het laatste experiment klaar zijn en moeten er al heel wat resultaten van experimenten liggen. De validiteit van de resultaten en de correctheid van de producten die nog getest gaan worden moeten in het team worden besproken en er moeten bindende afspraken worden gemaakt om het project binnen vier jaar af te kunnen ronden met een grote kans op succes. Samengevat:

Eind 3e jaar moeten de experimenten grotendeels zijn afgerond. Er moet nu bijna uitsluitend aan een methodologisch kader worden gewerkt waarin alle bevindingen een plaats krijgen. De contouren van de theorie en de onderliggende aannames moeten al duidelijk zijn.

In het 4e jaar
In het vierde jaar zal het duidelijk moeten zijn welke generaliserende conclusies er mogelijk zijn en wat de waarde van het parallellisme concept en de PI-theorie is. Ook zal duidelijk zijn geworden welke facetten, dimensies en categorieën er van belang zijn en welke effecten ze hebben op de eerdere aannames. In dit jaar moet het proefschrift geschreven worden (en klaar zijn) met de doelstellingen, doelen, benaderingswijzen, methoden en resultaten van het onderzoek.


9. Tijdspad

Het tijdspad dat wij voor ogen hebben ziet er - kort - als volgt uit:


10. Onderzoeksgroep en begroting

Samenstelling onderzoeksgroep

Samenwerking

Bij dit project zal worden samengewerkt met mensen uit de afdeling (vakgroep) ISM, de faculteit TO, het TO-lab, het onderzoeksinstituut CTIT, het Telematica Instituut (TI) en het gedragswetenschappelijk laboratorium van de open Universiteit (OU).

Begroting

Standaard werkplek: eerste geldstroom; standaard PC: eerste geldstroom; klein aantal dagen technische ondersteuning: eerste geldstroom. Het lijkt ons relevant om hier, voor proefpersonen en begeleiding of een student assistent, een bedrag van euro 500,= per jaar op te voeren waardoor de totale begroting uitkomt op euro 160.000,=.

Faciliteiten

Geen bijzondere dingen noodzakelijk. Er kan worden begonnen met bestaande apparatuur, software en expertise van de vakgroep. Er is een ontwikkelwerkplek en er zijn onderzoekswerkplekken mogelijk. De onderzoeker heeft de beschikking over een uitgebreide web-site met honderden verschillend vormgegeven prototypen. Online available on: "http://users.edte.utwente.nl/min". Die web-site kan worden ingezet om allerlei situaties na te bootsen en te creeeren die het mede mogelijk moeten maken nog beter specifiek geeiste condities en concepten aangaande parallellisme te ontdekken.


11. Financiële bijdrage uit ander bron

De eerste geldstroom middelen van de Universiteit Twente zijn zeer beperkt en zeer genormeerd. Mede daarom zijn recent door Min en De Diana allerlei contacten gelegd met de Universiteit Eindhoven, in het kader van het Minerva-project. Dat heeft geresulteerd in een gemeenschappelijk ingedient en door de EU Brussel goedgekeurd projectvoorstel. Het Minerva-project is een samenwerkingproject tussen zes instituten binnen drie europeese landen: Nederland, Italie en Groot Brittanie. Dit project startte in oktober 2002 en loopt tot oktober 2004. Ook is er een langlopend project gaande, 'een viskweekvijver in de computer', samen met de SLO (Enschede) en het van Hall Instituut (Leeuwarden); hoewel nogal klein, in geld uitgedrukt.


12. Taakomschrijving gevraagde medewerkers

De assistent in opleiding (AIO) dient een afgestudeerde (toegepast) onderwijskundige te zijn (of ruime interesse te hebben op het gebied van de cognitieve psychologie, ergonomie en/of onderwijskunde in het algemeen) met een goede attitude voor engineerings klussen, web-technologie, vormgeving en/of ergonomische vraagstukken. Hij/zij dient te starten met een literatuursearch. Na zijn/haar oriëntatie-periode dient de onderzoeker vele contacten (nationaal en internationaal) te leggen. Tegelijkertijd zal hij/zij bepaalde technieken en methoden voor het ontwerpen van software uitwerken. Nog tijdens de ontwerp-fase zal hij prototypes moeten ontwerpen. De promovendus heeft daarbij de volgende taken:

De HBO-informaticus dient een afgestudeerde informaticus of programmeur te zijn (of xxxx) met een goede attitude voor gebruikers, vormgeving en/of ergonomische vraagstukken. Hij/zij zal een goede (definitieve) programmeeromgeving moeten zoeken om de gekozen doelstellingen (m.n. de programmeerbaarheid, de performance, de usability, etc.) te kunnen verwezenlijken. Hij/zij zal verder zelf bepalen of methoden als "rapid prototyping", of meer gestructureerde software ontwikkelmethoden, moeten c.q. kunnen worden gebruikt. De informaticus/programmeur heeft daarbij de volgende taken:


13. Ondertekening

Dr. ir. F.B.M. Min
(onderzoeker, ontwikkelaar, ontwerper, projectleider)


Enschede, 21 okt. 2003


14. Lijst van publicaties van de leden van de onderzoeksgroep

Claessens, M., R. Min & J. Moonen (2000),
The use of virtual objects in multimedia for training procedural skills; a theoretical foundation. In: proceedings IWALT, Intern. Workshop Adv. Learning Technology, IEEE Learning Technolology Task Force (4-6 dec 2000 Palmerston North, New Zealand) p. 229-230. IEEE Computer Society, Los Alamitos, PR00653; ISBN 0-7695-0653-4 (Eds. Kinshuk, C. Jesskope & T. Okamoto). Online available on: http://projects.edte.utwente.nl/pi/papers/Claessens3.html

Claessens, M., R. Min & J. Moonen (accepted),
The use of multimedia for training maintenance tasks. Int. J. of Continuing Engineering Education and Long-life Learning. Online available on: http://projects.edte.utwente.nl/pi/papers/Claessens2.html

Claessens, M., R. Min & J. Moonen (draft),
A theory about designing environments. Intern paper. Online available on: http://projects.edte.utwente.nl/pi/papers/Claessens1.html

Diana, D. De, F.B.M. Min, J. Wetterling en J. de Goeijen (2000),
Courseware Engineering: Architectuur (designing courseware for the web); Collegediktaat, Reader, Practicumhandleiding en Studiehandleiding, herziene versie. Universiteit Twente, Enschede. Online available on: http://projects.edte.utwente.nl/pi/Lezingen/CEA.html

Gritter, H., W. Koopal and F.B.M. Min (1994),
A New Appraoch to Computer Simulations; Interact, European Platform for Interactive Learning, Vol. 1, no. 2, ISSN 0929-4465.

Gritter, H. (1993),
Het ontwerpen, ontwikkelen en evalueren van ISAV (Instructional Support for ArcView): een COO-programma ter ondersteuning van het geografische informatiesysteem ArcView. M Sc Thesis, University of Twente, Enschede (in cooporation with the University of Southampton, J. Moonen and F.B.M. Min).

Groenewoud, U.A., J. ter Burg, W. Akkermans en R. Min (1996),
Effect van mate van parallellisme op taakuitvoering en gepercipieerd gebruiksgemak. Verslag van een onderzoeksopdracht, Toegepaste Onderwijskunde. Proceedings onderzoeksopdracht TO (Eds. Oosterloo en v.d. Linden). Online available on: www.to.utwente.nl/user/ism/min/Paper4.htm.

Koopal, W. (1993),
Ontwerp, ontwikkeling en evaluatie van leeromgevingen voor simulatie; een onderzoek naar de empirische waarde van parallelle instructie. M Sc thesis Universiteit Twente, Enschede (in cooporation with J. Moonen and F.B.M. Min).

Min, F.B.M. (1997 - 2002),
Multimediale leermiddelen; het ontwerpen en ontwikkelen van leer-, werk- & doe-omgevingen. Inzichten, Concepten, Methoden en Technieken; interactief, dynamisch boek op internet met 10 aparte hoofdstukken; 30 losse paragrafen 50 figuren en enkele dynamische graphics (simulaties, e.d.) Universeel collegediktaat. Universiteit Twente, Enschede. Online available on http://projects.edte.utwente.nl/pi/BoekNL/index.html

Min, F.B.M. (2002),
Parallellisme in interfaces; een speurtocht naar cognitieve overload bij de gemiddelde users en ergonomische oplosssingen daarvoor. 'Informatie', jrg. 44, juli/aug 2002, pp. 11-14. Maandblad van het Ned. Genootschap voor Informatica (NGI). Also online [available on: http://projects.edte.utwente.nl/pi/papers/PiNGIb.html]

Min, F.B.M. (2002),
Designing Dynamical Learning Environments for Simulation: Micro-Worlds & Applets on the World Wide Web; 5th Workshop of EARLI SIG 6: Instructional Design for Multimedia Learning. (Eds. H. Niegemann, R. Bruncken en D. Leutner) On cd-rom and online available on: http://projects.edte.utwente.nl/pi/Papers/AbstractErfurt.htm

Min, F.B.M., and I. De Diana (2002),
Het leren ontwerpen en ontwikkelen van e-learning omgevingen met losse, dynamische elementen uit een bibliotheek met gestandariseerde Java objecten. Nog niet geaccepteerd door tijdschrift. Online [available on: http://projects.edte.utwente.nl/pi/papers/MinDiana.htm]

Min, F.B.M. (2002),
Methodology & technology about multimedia and simulation. WEB sites of Rik Min, University of Twente, the Netherlands. Online [available on http://users.edte.utwente.nl/min]

Min, F.B.M. (2001),
Simulation and discovery learning in an age of zapping and searching; a treatise about the educational strength and availability of digital learning tools and simulation on the world wide web. Internal paper (Eds. H. Niegemann, R. Bruncken en D. Leutner). Online [available on http://projects.edte.utwente.nl/pi/Papers/DiscLearning.html

Min, R. (2001),
Ontdekkend leren en simulatie in een tijd van zappen en zoeken (een verhandeling over de onderwijskundig kracht en inzetbaarheid van digitale leermiddelen en simulaties op het world wide web). Hoofdstuk in boek 'Leren in perspectief' (Red. A. Wald & J. v.d. Linden) (ICO-uitgave) Garant, Leuven-Apeldoorn. ISBN 90-441-1160-4. P. 115-130. Online [available on http://projects.edte.utwente.nl/pi/papers/OntdekkendLeren.html]

Min, F.B.M. (2001, 25 mei),
Vergelijkend onderzoek tussen op twee manieren vormgegeven open web-based leermiddelen. Paper presentatie. In: proceedings van de 28ste onderwijs research dagen 2001 (ORD-2001); SCO - Kohnstamm Instituut / ILO / Univ. van Amsterdam (Red. E. van Eck, D. Griffioen, H. van Hout & T. Peetsma) ISBN 90-6813-663-1. p. 343. (Lecture available on the web on: http://projects.edte.utwente.nl/pi/Lezingen/ORD2001.html)

Min, F.B.M. & J. de Goeijen (june, 28, 2001),
Designing Dynamical Learning Environments for Simulation: Micro-Worlds & Applets on the World Wide Web; poster at the 13th Annual World Conference on Educ. Multimedia, Hypermedia & Telecommunications, ED-MEDIA, Tampere, Finland, june, 26-28, 2001 Final Program (poster and flyer also available on the web, on: http://projects.edte.utwente.nl/pi/Lezingen/Finland.html)

Min, F.B.M. & J. de Goeijen (aug. 30, 2001),
Working-, Doing- and Learning-environments; Designing Dynamical Learning Environments for Simulation: Micro-Worlds & Applets on the World Wide Web. Poster at the 9th European Conference for Res. On Learning & Instruction, EARLI conference, Fribourg, Zwitserland, aug, 28 - sept. 1th, 2001. Verlag Mainz, ISBN 3-89653-877-2 (poster and flyer also available on the web, on: http://projects.edte.utwente.nl/pi/Lezingen/Fribourg.html

Min, R. (2001),
Ontwerpen en ontwikkelen van multimedia; een aanvulling op hoofdstuk 7 van Tannenbaum. In: Multimedia-productie en -ontwerp. Red. Kommers, P., R. Min, J. Schmitz, B. Reimerink & J. Ooosterhuis. Hoofdstuk in reader, 1e versie. Universiteit Twente, Enschede. (hoofdstuk staat ook op internet: http://to-www.to.utwente.nl/TO/ism/course/pro/index.html)

Min, F.B.M. (2001),
A general dynamic concept model to achieve a goal (a 'think model'); as occurs in managing, controlling, learning, communicating and designing; an attempt to define accumulation processes as designing, controlling, learning & communication.

Min, F.B.M., P. Kommers, H. Vos and C. van Dijkum (2000),
A Concept Model for Learning; An attempt to define a proper relations scheme between instruction and learning and to establish the dynamics of learning in relation to motivation, intelligence and study-ability ('studeerbaarheid'). J. of Interactive Learning Research (formerly J. of Artificial Intelligence in Educ.), Vol.11, no. 3/4, 2000, p.485-506. Online [available on http://projects.edte.utwente.nl/pi/papers/Learning.htm]

Min, F.B.M., en J. de Goeijen (2000),
Technologie voor Opleiding en Onderwijs: Productie van Onderwijssystemen. Collegediktaat, Reader, Practicumhandleiding en Studiehandleiding, 1e versie. Universiteit Twente, Enschede. Online [available on http://to-www.to.utwente.nl/TO/ism/course/pro/index.html]

Min, F.B.M., en M. Claessens (2000),
Theoretische en empirische onderbouwing voor het inrichten van rijke doe-, werk- en leer-omgevingen. In: Proceedings Onderwijs Research Dagen, ORD 2000, Universiteit Leiden. p.358-359. ISBN 90-804722-2-0. Online [available on http://projects.edte.utwente.nl/pi/Lezingen/ORD2000.html].

Min, F.B.M. (1999),
Interactive Micro-worlds on the World Wide Web. Int. J. of Continuing Engineering, Education and Long-life Learning, vol.9, no.2/3/4, p.302-314, ISSN 0957-4344. (Also published on the web)

Min, F.B.M. (1998),
A general dynamic concept model to achieve a goal, a 'think model'; as occurs in managing, controlling, learning, communicating and designing. (Also published on the web)

Min, F.B.M. (1997a),
Het web als werk-, doe- en leeromgeving en de kracht van applets. Paper ten behoeve van het congres van consortium COO HBO en SUNCOO: 'Studeren in digitale leeromgevingen'; Organiseren van hoger onderwijs voor de kennismaatschappij; Universiteit Utrecht te Utrecht op 11 en12 december 1997. Gepubliceerd in de Hoger Onderwijs Reeks van Wolters-Noordhoff Groningen. Titel: 'De Digitale Leeromgeving'. Ed. M. Mirande, J. Riemersma & W. Veen (1997) ISBN 90-01-88662-0. Hst. 10. pp. 149-159 (hoofdstuk in een boek).

Min, F.B.M., en J. Sikken (1997b),
Java-applets en leeromgevingen voor simulatie op het web. Artikel in: Informatie Bulletin, het blad van de Vereniging voor informatiekunde en informatietechnolgie in onderwijs; en School en Computer, 9e jaargang, nummer 2, pp. 20-22.

Min, F.B.M. (1997c),
Nieuwe ontwikkelingen op het gebied van computersimulaties en multimediale leermiddelen in het hoger onderwijs: het World Wide Web en Java. Tijdschrift voor hoger onderwijs & managment; Themanummer 'Hoger Onderwijs Online', no. 4. (Sept. 1997).

Min, F.B.M. (1997d),
Multimediale leermiddelen in een wereld van zappen en zoeken; leer-, werk- en doe-omgevingen en de kracht van visualisatie en van Java). Abstract van een lezing tbv. GEWIS symposium: Overdracht en vergaring van kennis met moderne middelen. In: I/O Vivat', het blad van de studievereniging Informatica Inter-Actief. Technische Universiteit Eindhoven, Eindhoven. (Sheets van de lezing, 14 Mei 1997).

Min, F.B.M. (1997e),
Een WYSIWYG-editor voor het ontwikkelen van simulaties: MacSimAuthor; Een onderzoek naar nieuwe gereedschappen voor het bouwen van leeromgevingen voor simulaties. Concept paper (gepubliceerd op Internet.)

Min, F.B.M. (1996),
Parallellisme bij werk-, leer- en doe-omgevingen; De Parallelle Instructie Theorie voor Coaching in Open Leeromgevingen voor Simulatie. In: Interact, een tijdschrift op Internet. (17 pages.) Online [available on www.dds.nl/~interact/artikel/data/0603min/0603mins.htm

Min, F.B.M. (1995),
Simulation Technology & Parallelism in Learning Environments; Methods, Concepts, Models and Systems Book, Uitgeverij: Academisch Boekencentrum, ABC, De Lier. ISBN 90-5478-036-3 (also partly published on web: www.to.utwente.nl/prj/min/Book/chapter1)

Min, F.B.M. (1994a),
Parallelism in open learning and working environments. Britsh Journal of Educational Technology, Vol. 25, No. 2, pp. 108-112. ISSN 0007-1013.

Min, F.B.M. (1994b),
Parallellisme bij coachen van gebruiker in open leeromgevingen. In: Simulatie: een State of the Art. Proceedings van Conferentie 'Simulatie 1993' te Utrecht; Organisatie SISWO (TIM), Amsterdam; (Editors: C. van Dijkum & D. de Tombe) (also published in short version, in English, on the web: www.to.utwente.nl/prj/Min/Papers/Monitor.htm)

Min, F.B.M. (1992a),
Parallel Instruction: a theory for educational computer simulation; Interactive Learning International, Vol.8, no.3 (1992) 177-183.

Min, F.B.M. (1992b),
Pilot-onderzoek naar leermodellen bij computersimulatie aan de hand van observaties van leergedrag; proceedings van Gezond onderwijscongres door de Nederlandse Ver. voor medisch onderwijs in samenwerking met de vakgroep Onderwijsontwikkeling en Onderwijsresearch, Rijksuniversity of Limburg op 28-29 november 1991 te Velthoven. Redactie: C.P.M. van der Vleuten, A.J.J.A. Scherpenbier en M.C. Pollemans; Uitgever: Bohn, Stafleu Van Loghum BV. Houten. pg. 130-137.

Min, F.B.M., P.G. van Schaick Zillesen, B. Reimerink, M.R. Gmelich Meijling (1992),
MacTHESIS, an universal design system for building Computer simulation modules for education and training. In: Modellbildungssysteme - Konzepte und Realisierungen; conference about CBT on Univ. of Tubingen, nov. 1990; COMET Verlag fur Unterrichtssoftware, Duisburg (J. Wedekind and W. Walser, eds) ISBN 3-89418-709-9.

Min, F.B.M., P.G. van Schaick Zillesen, B. Reimerink, M.R. Gmelich Meijling (1991),
Computer simulation with HyperMedia for training operators in chemical industry. 4th international conference "Computer and Video in corporate training, ADCIS / Istituto Dalle Molle di Methodology Interdisiplinari (IDMI) Technoloy Transfer, CBT-developers workshop, nov. 19th 1990, Lugano. (T. Bernold and J.H. Finkelstein, eds)

Min, F.B.M. (1987),
Computersimlatie als leermiddel; een inleiding in methoden en technieken. Academic Services B.V., Schoonhoven, ISBN 90 6233 282 X.

Moonen, J. (1991),
Toegepaste onderwijskundigen; Architecten of ingenieurs? In: Dijkstra S., H.P.M. Krammer & J.M. Pieters (Red.) (1991) De onderwijskundige ontwerper; Liber amicorum prof. E. Warries. Swets & Zeitlinger b.v., Amsterdam.

Moonen, J. (1990),
Computers veranderen de wereld, doch veranderen ze ook het onderwijs? Inaugurele rede, Universiteit Twente Enschede, (jan. 1990)

Moonen, J., and J. Schoenmaker (1992),
Evolution of courseware development methodology: recent issues. In: Plomp, Tj. & J. Moonen (Eds), Implementation of computers in education. Intern. J. of Educ. Res. , Vol. 17, no. 1, 109-121.

Schaick Zillesen, P.G. van (1990),
Methods and techniques for the design of educational computer simulation programs and their validation by means of emperical research. Academisch proefschrift, Universiteit Twente (promotor E. Warries, assistent-promotor F.B.M. Min) ISBN 90-9003874-4.