1. Résumé / Abstract
Le Feedback Instrument for Rescue Force Development – trainer (FIRE-DO ; en français : Instrument de rétroaction pour le développement des forces de secours – formateur) constitue une échelle psychométrique standardisée conçue pour évaluer spécifiquement les compétences didactiques et pédagogiques individuelles des formateurs intervenant dans les programmes d’enseignement et d’entraînement des forces d’intervention d’urgence et de secours, tout particulièrement au sein des services d’incendie et de secours (sapeurs-pompiers). Développé comme un module complémentaire au questionnaire central FIRE (Feedback Instrument for Rescue Force Development) élaboré par Schulte et Thielsch (2019), le FIRE-DO comble une lacune méthodologique majeure : alors que les outils traditionnels d’évaluation de la formation évaluent fréquemment l’équipe pédagogique dans sa globalité ou la structure générale du cursus, le FIRE-DO permet une évaluation individualisée, formative et diagnostique de chaque intervenant.
L’instrument se compose de 7 items formulés positivement, administrés via une échelle de réponse de type Likert en 7 points (allant de 1 = « pas du tout d’accord » à 7 = « tout à fait d’accord »), assortie d’une option neutre médiane et d’une modalité explicite « non évaluable » (nicht sinnvoll beantwortbar). Le temps de passation est extrêmement économique, estimé à environ deux minutes par formateur évalué, ce qui autorise son intégration fluide au terme de sessions de formation denses sans induire de fatigue cognitive chez les répondants. Le développement et la validation psychométrique initiale de l’instrument reposent sur un échantillon représentatif de 350 cadres et futurs cadres des services d’incendie (chefs de groupe et chefs de colonne) formés à l’Institut des sapeurs-pompiers de Rhénanie-du-Nord-Westphalie (Institut der Feuerwehr Nordrhein-Westfalen – IdF NRW).
Les propriétés métrologiques du FIRE-DO démontrent une excellente qualité psychométrique. L’analyse factorielle confirmatoire (AFC) corrobore une structure unidimensionnelle cohérente reflétant la compétence didactique perçue du formateur. La fidélité, mesurée par le coefficient d’oméga de McDonald (ω), atteint un niveau exceptionnel de .91, attestant d’une consistance interne remarquable propice à des applications d’évaluation individuelle. Les indices de validité convergente révèlent des corrélations fortes avec la sous-échelle d’équipe du questionnaire FIRE (r = .69), les dimensions d’évaluation de l’enseignement supérieur issues de l’inventaire de Heidelberg (HILVE I et II, avec respectivement r = .86 et r = .75) et la notation globale attribuée au formateur (r = .67). La validité de critère est confirmée par des relations significatives avec l’acquisition déclarée de compétences (r = .44), la préparation au transfert opérationnel (r = .48) et la satisfaction globale à l’égard de la formation (r = .59). Enfin, la validité divergente est établie par l’absence d’association significative avec les scores obtenus par les apprenants lors des tests de connaissances préalables à l’entrée en formation (r = .09, non significatif).
2. Mots-clés / Keywords
Évaluation de l’enseignement, forces de secours, sapeurs-pompiers, compétence didactique, psychométrie, formation des cadres, rétroaction pédagogique, transfert d’apprentissage, analyse factorielle confirmatoire, psychologie organisationnelle, andragogie, gestion des urgences.
3. Auteurs / Authors
Le questionnaire FIRE-DO a été conçu et validé par une équipe de chercheurs en psychologie du travail et des organisations en partenariat étroit avec des praticiens de la formation opérationnelle de crise :
- Dr. Julian Schulte : Chercheur en psychologie organisationnelle, Département de psychologie, Université de Münster (Westfälische Wilhelms-Universität Münster), Allemagne. Ses travaux portent sur l’évaluation de la formation, le comportement organisationnel et le leadership dans les environnements à haut risque.
- Prof. Dr. Meinald T. Thielsch : Professeur de psychologie organisationnelle et économique, Département de psychologie, Université de Münster, Allemagne. Spécialiste reconnu de l’évaluation des formations professionnelles, de la psychologie des situations d’urgence et des interfaces homme-machine. Courriel institutionnel : [email protected].
- Institut der Feuerwehr Nordrhein-Westfalen (IdF NRW) : L’institut d’État des services d’incendie de Rhénanie-du-Nord-Westphalie (Münster, Allemagne), plus grand centre public de formation pour les services de secours en Allemagne, a assuré la direction pédagogique de terrain, l’accès au terrain expérimental et l’expertise de contenu lors de la co-construction de l’échelle.
4. Objectif / Purpose
L’exercice des missions dévolues aux forces de secours et d’intervention d’urgence se caractérise par des environnements d’action hostiles, dynamiques, marqués par une incertitude radicale, une pression temporelle extrême et des conséquences potentiellement létales en cas d’erreur de jugement (Hagemann, 2011 ; Smith & Dyal, 2016). Dans ce cadre hautement exigeant, les officiers et sous-officiers commandants d’opérations de secours assument la pleine responsabilité stratégique, tactique et humaine des manœuvres déployées (FwDV 100, 1999). La maîtrise du processus complexe de commandement — englobant l’évaluation instantanée de la situation, l’anticipation des risques, la planification opérationnelle, la transmission des ordres et le contrôle des actions — requiert une formation initiale et continue de très haute qualité (Schulte & Thielsch, 2019).
La formation des officiers de sapeurs-pompiers conjugue des enseignements théoriques approfondis (réglementation, physique-chimie du feu, gestion des risques technologiques) et des mises en situation pratiques complexes, telles que des exercices sur table tactique (Planübungen) et des simulations de manœuvres opérationnelles grandeur nature (Röseler et al., 2020, 2021). Traditionnellement, ces cursus sont animés par des équipes de formateurs issus du terrain, cumulant une solide expérience opérationnelle et des responsabilités d’enseignement. Or, la littérature en pédagogie des adultes souligne que l’expertise technique ou opérationnelle ne garantit en rien la possession de compétences pédagogiques et méthodologiques adaptées (Rindermann, 2009 ; Feldmann, 2007). Un formateur peut posséder une maîtrise exceptionnelle du terrain mais éprouver d’importantes difficultés à vulgariser des concepts abstraits, à structurer une séance ou à instaurer un climat d’apprentissage psychologiquement sécurisant propice à la réflexion critique.
Jusqu’à la création du FIRE-DO, il n’existait aucun instrument psychométrique validé permettant d’évaluer de façon empirique et standardisée la performance pédagogique individuelle des formateurs dans le secteur des services d’incendie et de secours. Les dispositifs d’évaluation existants présentaient deux écueils majeurs :
- L’agrégation globale au niveau de l’équipe : La plupart des enquêtes évaluent le corps professoral ou l’équipe pédagogique comme un bloc indifférencié (comme le fait la sous-échelle « comportement des formateurs » du questionnaire central FIRE). Cette approche masque les disparités individuelles et prive les formateurs d’un retour diagnostique précis sur leurs forces et leurs axes d’amélioration personnels.
- L’absence d’outils adaptés aux spécificités des secours : L’importation brute de questionnaires conçus pour l’enseignement universitaire néglige les impératifs des formations d’urgence, notamment l’articulation essentielle entre savoirs théoriques formalisés et transfert direct d’expériences opérationnelles vécues.
L’objectif fondamental du FIRE-DO est donc double : sur le plan appliqué et organisationnel, il fournit aux centres de formation des forces de secours un outil de rétroaction diagnostique individuelle permettant d’alimenter les démarches d’assurance qualité, de guider le perfectionnement pédagogique des formateurs et de valoriser l’excellence de l’enseignement. Sur le plan de la recherche scientifique, il offre une mesure standardisée permettant d’étudier l’impact des compétences didactiques individuelles des formateurs sur des variables fondamentales d’andragogie opérationnelle, telles que l’auto-efficacité des apprenants, le climat d’apprentissage, l’acquisition de compétences tactiques et le transfert d’apprentissage en contexte réel d’intervention.
5. Construit psychologique / Construct
Le construit psychologique mesuré par le FIRE-DO est la compétence didactique globale perçue du formateur dans le cadre de la formation professionnelle des forces de secours. Ce construit est appréhendé comme une entité unidimensionnelle intégrant plusieurs composantes comportementales et relationnelles indissociables de l’acte d’enseignement efficace en milieu opérationnel exigeant.
L’analyse des fondements théoriques et des items de l’échelle permet d’expliciter les facettes constitutives de ce macro-construit :
- La clarté cognitive et la synthèse pédagogique (Item 1 : « Der Dozent / Die Dozentin fasste schwierige Sachverhalte prägnant zusammen ») : Cette dimension renvoie à la capacité du formateur à décomposer des situations opérationnelles ou des cadres réglementaires d’une grande complexité en éléments compréhensibles, précis et immédiatement mémorisables. En intervention d’urgence, la surcharge cognitive constitue un facteur majeur d’erreur ; la capacité d’un instructeur à synthétiser les concepts clés entraîne les futurs commandants à développer des représentations mentales claires sous pression.
- L’utilité et la précision de la rétroaction (Item 2 : « Ich finde, der Dozent / die Dozentin gab nützliches Feedback ») : Le feedback constructif représente le pivot de l’apprentissage expérientiel. Lors des débriefings post-simulation ou post-exercices sur table, le formateur doit être capable de pointer les défaillances décisionnelles sans démotiver l’apprenant, tout en explicitant les alternatives tactiques viables. Une rétroaction de qualité transforme l’erreur en opportunité métacognitive d’apprentissage.
- L’activation motivationnelle et la stimulation de l’engagement (Item 3 : « Der Dozent / Die Dozentin motivierte mich, mich einzubringen ») : L’andragogie moderne stipule que l’adulte n’intériorise les compétences complexes que lorsqu’il est activement engagé dans son propre apprentissage. Dans un milieu traditionnellement hiérarchique et directif tel que les services de secours, stimuler la prise de parole spontanée, l’expression de doutes tactiques et l’expérimentation intellectuelle exige des compétences d’animation particulièrement affûtées.
- L’orientation vers la réussite des apprenants et le soutien pédagogique (Item 4 : « Ich finde, der Dozent / die Dozentin war am Lernerfolg der Teilnehmer interessiert ») : Cette composante mesure la bienveillance pédagogique et l’engagement perçu du formateur envers l’apprentissage réel de chaque stagiaire. L’intérêt authentique porté par l’instructeur réduit l’anxiété d’évaluation et consolide la sécurité psychologique au sein du groupe de formation.
- L’intelligibilité et la précision de l’expression langagière (Item 5 : « Der sprachliche Ausdruck des Dozenten / der Dozentin war verständlich ») : L’efficacité de la communication opérationnelle repose sur un vocabulaire rigoureux, un phrasé fluide et l’absence d’ambiguïté linguistique. Un formateur exemplaire doit modéliser une communication verbale irréprochable, transposable lors des transmissions radio et du commandement de terrain.
- L’expertise thématique et la maîtrise des contenus (Item 6 : « Der Dozent / Die Dozentin kannte sich mit den Inhalten der Lehre sehr gut aus ») : La crédibilité d’un formateur dans un domaine d’action technique repose sur une maîtrise irréprochable des bases doctrinales, scientifiques, techniques et procédurales. L’absence de maîtrise de la matière engendre une perte immédiate d’adhésion chez des apprenants aguerris.
- L’intégration pédagogique de l’expérience opérationnelle vécue (Item 7 : « Der Dozent / Die Dozentin konnte den Unterricht mit seinen / ihren eigenen Einsatzerfahrungen gut ergänzen ») : Il s’agit d’une spécificité cardinale de la didactique professionnelle en milieu d’urgence. Le formateur d’excellence ne se contente pas d’exposer la doctrine théorique ; il l’illustre, l’ancre et la nuance à travers le récit critique d’interventions réelles (retours d’expérience, études de cas vécues). Cette contextualisation narrative permet aux apprenants de relier l’abstraction doctrinale à la réalité chaotique du terrain opérationnel.
6. Cadre théorique / Theoretical Framework
Le développement du FIRE-DO s’inscrit au carrefour de la psychologie de l’éducation, de la psychologie du travail appliquée aux organisations à haute fiabilité (High Reliability Organizations – HRO) et des théories contemporaines de l’évaluation de l’enseignement.
Le modèle des conditions multidimensionnelles de la réussite de l’enseignement
L’ancrage théorique principal de l’échelle repose sur le modèle multidimensionnel des conditions de la réussite pédagogique (multidimensionales Bedingungsmodell des Lehrerfolgs) formalisé par Heiner Rindermann (2009). Selon ce modèle, l’efficacité pédagogique d’un enseignant ne saurait être réduite à un trait unique, mais émane d’une constellation coordonnée de compétences observables :
- La structuration logique et la clarté de la présentation de l’information ;
- La gestion adéquate du niveau de difficulté et des exigences cognitives ;
- L’aptitude rhétorique et l’intelligibilité communicative ;
- L’engagement personnel, l’empathie pédagogique et le soutien motivationnel ;
- L’expertise conceptuelle dans le domaine enseigné ;
- L’ancrage des apprentissages dans des situations pratiques réalistes.
Rindermann postule que ces dimensions comportementales interagissent avec les caractéristiques des apprenants (motivation initiale, prérequis) pour engendrer l’acquisition de compétences profondes et favoriser le transfert des apprentissages. Schulte et Thielsch (2019) ont transposé ce cadre issu de l’enseignement supérieur universitaire au contexte spécifique de la formation des cadres des services de secours. En effet, la formation des chefs de groupe et de colonne à l’IdF NRW partage des analogies structurales frappantes avec l’enseignement universitaire avancé : alternance de cours magistraux, séminaires participatifs, travaux dirigés en sous-groupes, analyses réflexives de cas et débats doctrinaux.
Didactique professionnelle et apprentissage en milieu à hauts risques
L’adaptation de ce modèle au secteur des secours d’urgence intègre également les apports de la didactique professionnelle (Pastré, Mayen, & Vergnaud, 2006) et des théories de l’apprentissage expérientiel (Kolb, 1984). Dans les organisations de secours, la compétence d’un commandant ne réside pas uniquement dans l’application rigide de protocoles standardisés, mais dans le développement d’un « schème d’action » adaptable à l’imprévu. Par conséquent, l’instructeur joue un rôle de médiateur cognitif : il confronte l’apprenant à la dissonance décisionnelle lors d’exercices tactiques, fournit une rétroaction corrective immédiate et facilite la conceptualisation pragmatique par le partage raisonné de sa propre expérience opérationnelle.
7. Validité / Validity
L’examen des propriétés de validité du FIRE-DO a été conduit selon les normes psychométriques les plus rigoureuses au cours de deux études empiriques successives menées à l’Institut des sapeurs-pompiers de Rhénanie-du-Nord-Westphalie.
Validité de contenu
La validité de contenu a été établie lors de l’Étude I (fin 2015). Les items initiaux, adaptés de banques d’items universitaires éprouvées (Grabbe, 2003 ; Thielsch & Stegemöller, 2014 ; Wolf et al., 2001) et enrichis d’items originaux fondés sur le modèle de Rindermann (2009), ont été soumis au jugement critique d’un panel d’experts comprenant 7 formateurs chevronnés (86 % d’hommes, âge moyen = 38,9 ans) et 26 stagiaires officiers en cours de formation de chef de groupe (96 % d’hommes, âge moyen = 30,5 ans), soit un échantillon total de N = 33 participants. Les évaluateurs ont analysé chaque proposition quant à sa pertinence opérationnelle et sa clarté linguistique. Plus de 81 % des répondants ont jugé l’ensemble des items comme « importants » ou « plutôt importants », et aucun item n’a été jugé ambigu ou incompréhensible. Aucune divergence notable n’a été observée entre formateurs et stagiaires, attestant d’une excellente validité de contenu écologique.
Validité de construit (convergente et divergente)
La validité de construit a été examinée lors de l’Étude II auprès d’une cohorte exhaustive de 350 stagiaires officiers (chefs de groupe et de colonne) ayant suivi leur cursus entre janvier et mars 2017 (94,6 % d’hommes, âge moyen = 33,2 ans, ancienneté opérationnelle moyenne = 14,4 ans).
| Critère / Variable de mesure | n | Corrélation (r) | Nature théorique de la relation |
|---|---|---|---|
| Comportement des formateurs (FIRE) | 341 | .69*** | Validité convergente (évaluation de l’équipe globale) |
| Compétence d’enseignement (HILVE I) | 343 | .86*** | Validité convergente (mesure universitaire de didactique) |
| Encadrement / Tutorat (HILVE II) | 297 | .75*** | Validité convergente (relation pédagogique et suivi) |
| Note globale attribuée au formateur | 349 | .67*** | Validité convergente (corrélation de Spearman, note inversée) |
| Score à l’examen d’entrée initial | 211 | .09 (n.s.) | Validité divergente (connaissances préalables des stagiaires) |
| Humeur générale du répondant | 344 | .33*** | Variable de biais affectif (échelle de smileys de Jäger) |
| Dynamique du groupe de pairs (FIRE) | 347 | .31*** | Variable de contexte social (climat entre stagiaires) |
Note : *** p < .001, n.s. = non significatif. Échantillon total N = 350 sapeurs-pompiers (IdF NRW).
Les corrélations avec les construits convergents sont remarquablement élevées : le FIRE-DO corrèle à r = .86 avec l’échelle de compétence d’enseignement du HILVE I et à r = .75 avec l’encadrement du HILVE II. La corrélation avec l’évaluation globale de l’équipe (FIRE Kern) s’élève à r = .69 ; cette valeur substantielle mais non parfaite confirme que l’évaluation individuelle capture une variance spécifique que l’évaluation d’équipe agrégée ne peut saisir. La validité divergente est exemplairement vérifiée par l’absence d’association entre le score FIRE-DO et la performance des apprenants au test cognitif d’entrée administré au premier jour de stage (r = .09, non significatif), prouvant que l’appréciation du formateur est indépendante du bagage théorique préalable individuel de l’apprenant.
Concernant les variables de biais potentiel (Spiel, 2001), les corrélations observées avec l’humeur du stagiaire (r = .33) et l’ambiance perçue du groupe de pairs (r = .31) demeurent faibles à modérées. Il est théoriquement attendu qu’un enseignement de grande qualité génère un climat affectif agréable et facilite les interactions de groupe ; le fait que ces corrélations soient très nettement inférieures à celles des construits convergents atteste que le FIRE-DO ne mesure pas un simple biais de halo affectif ou de complaisance sociale.
Validité liée aux critères
La validité prédictive et concourante a été explorée à travers les relations qu’entretient le FIRE-DO avec les résultats critiques de la formation professionnelle :
- Acquisition perçue de compétences (FIRE Kern) : r = .44, p < .001 ;
- Préparation et transfert opérationnel (FIRE Kern) : r = .48, p < .001 ;
- Satisfaction globale vis-à-vis de la formation : r = .59, p < .001 ;
- Note globale attribuée au séminaire : r = .40, p < .001.
Ces coefficients démontrent empiriquement que l’excellence pédagogique individuelle du formateur contribue directement au sentiment d’auto-efficacité tactique des stagiaires et à leur sentiment d’être prêts à affronter des situations opérationnelles réelles sur le terrain.
8. Fidélité / Reliability
La fidélité de l’échelle FIRE-DO a été évaluée au moyen d’indices de consistance interne fondés sur la modélisation en équations structurelles, dépassant les limites notoires du traditionnel coefficient alpha de Cronbach.
Modélisation de la fidélité et cohérence interne
L’hypothèse d’une stricte tau-équivalence essentielle — prérequis théorique obligatoire mais rarement vérifié de l’alpha de Cronbach — a été formellement testée par comparaison de modèles au moyen d’un test de différence de chi-carré (Δχ²). Le modèle de mesure congénérique (autorisant des saturations factorielles distinctes pour chaque item) s’est avéré s’ajuster significativement mieux aux données empiriques qu’un modèle essentiellement tau-équivalent :
Δχ²(6) = 52.10, p < .001
En conséquence, les auteurs ont calculé le coefficient oméga de McDonald (ω), qui offre une estimation exacte et non biaisée de la fidélité de mesure pour les modèles congénériques. Le résultat obtenu est remarquable :
ω = .91
Ce niveau de consistance interne excède très largement le seuil standard de .70 requis pour la recherche fondamentale et franchit le seuil critique de .90 préconisé par les standards psychométriques internationaux (AERA, APA, & NCME) pour le diagnostic individuel et l’évaluation des personnes. L’erreur standard de mesure (SEM) s’en trouve fortement réduite, garantissant une estimation précise des scores individuels des formateurs.
Homogénéité et discrimination des items
Les coefficients de corrélation item-score total corrigé (coefficients de discrimination / Trennschärfe) oscillent entre .64 et .83, témoignant d’une excellente capacité de chaque énoncé à discriminer les formateurs hautement performants de ceux présentant des difficultés didactiques :
- Item 1 (Synthèse concise) : rit = .78
- Item 2 (Feedback utile) : rit = .83
- Item 3 (Motivation à s’impliquer) : rit = .76
- Item 4 (Intérêt pour la réussite) : rit = .75
- Item 5 (Intelligibilité de l’expression) : rit = .75
- Item 6 (Maîtrise des contenus) : rit = .72
- Item 7 (Partage d’expériences opérationnelles) : rit = .64
9. Analyse factorielle / Factor Analysis
La validité structurelle de l’échelle a été vérifiée au cours de l’Étude II par le biais d’une analyse factorielle confirmatoire (AFC) réalisée sous l’environnement statistique R (version 4.1.0) via le package spécialisé lavaan (Rosseel, 2012 ; version 0.6-9). L’estimateur MLR (Maximum Likelihood avec erreurs-types robustes et statistique de test de Satorra-Bentler ajustée) a été mobilisé pour pallier la distribution asymétrique des données ordinales.
Modèle factoriel initial vs ré-spécifié
Le modèle unidimensionnel à structure simple stricte (7 items chargeant sur un unique facteur latent « Compétence du formateur » sans covariances résiduelles) présentait des indices d’ajustement globalement acceptables mais un RMSEA légèrement excessif : χ²(14) = 64.83, CFI = .968, TLI = .952, RMSEA = .102 [IC 90 % : .078 – .128], SRMR = .028. Un indice RMSEA supérieur à .10 indique une inadéquation résiduelle (Browne & Cudeck, 1992).
L’inspection des indices de modification de Lagrange a mis en évidence une source significative d’amélioration locale (Δχ² > 10) par l’ajout d’une covariance résiduelle libre entre l’Item 3 (Motivation à participer) et l’Item 4 (Intérêt pour la réussite de l’apprenant). Sur le plan théorique, cette corrélation résiduelle s’avère parfaitement légitime et substantielle : les deux items partagent une communauté de variance spécifique liée à la dynamique relationnelle et motivationnelle interindividuelle, distincte de la pure transmission didactique des connaissances théoriques (Whittaker, 2012). À l’inverse, d’autres modifications mathématiques suggérées mais dépourvues de justification théorique ont été rigoureusement rejetées.
L’introduction de cette covariance d’erreur entre les items 3 et 4 a conduit à une amélioration hautement significative de l’ajustement aux données (Δχ²(1) = 17.44, p < .001). Les indices d’ajustement finaux du modèle révisé démontrent une excellente adéquation :
| Indice d’ajustement | Valeur observée (AFC) | Seuil méthodologique standard | Interprétation psychométrique |
|---|---|---|---|
| χ² / Degrés de liberté (dl) | 47.40 / 13 (p < .001) | Ratio ≤ 3 à 5 | Sensible à la taille de l’échantillon (N = 350) |
| CFI (Comparative Fit Index) | .978 | ≥ .95 pour un ajustement excellent | Excellent ajustement comparatif |
| TLI (Tucker-Lewis Index) | .965 | ≥ .95 pour un ajustement excellent | Excellent ajustement non-normé |
| RMSEA [Intervalle de confiance 90 %] | .087 [.061, .114] | ≤ .08 pour un ajustement acceptable | Ajustement acceptable (Browne & Cudeck, 1992) |
| SRMR (Standardized RMR) | .024 | ≤ .05 à .08 pour un bon ajustement | Ajustement exceptionnel des résidus |
Saturations factorielles et distribution des items
Toutes les saturations factorielles standardisées (λ) sont statistiquement significatives au seuil p < .001. Les items s’articulent harmonieusement autour du facteur latent avec des paramètres de saturation solides compris entre .68 et .88. Les statistiques descriptives détaillées révèlent un effet de plafonnement modéré, classique dans les évaluations de formation de haut niveau où les formateurs sont rigoureusement sélectionnés :
| Item | Moyenne (M) | Écart-type (SD) | Asymétrie (Skewness) | Aplatissement (Kurtosis) | Saturation (λ) |
|---|---|---|---|---|---|
| Item 1 (Esprit de synthèse) | 6.15 | 0.87 | -1.71 | 5.66 | .82*** |
| Item 2 (Qualité du feedback) | 6.20 | 0.92 | -1.61 | 3.83 | .88*** |
| Item 3 (Activation motivationnelle) | 5.96 | 1.04 | -1.43 | 3.01 | .80*** |
| Item 4 (Intérêt pour l’apprenant) | 6.27 | 0.88 | -1.67 | 4.44 | .79*** |
| Item 5 (Clarté d’expression) | 6.25 | 0.96 | -1.93 | 4.92 | .80*** |
| Item 6 (Expertise doctrinale) | 6.47 | 0.77 | -1.72 | 3.36 | .76*** |
| Item 7 (Apport d’expérience terrain) | 5.98 | 1.12 | -1.24 | 1.45 | .68*** |
Note : N = 350. Échelle de réponse de 1 à 7. Les saturations factorielles (λ) sont issues de l’AFC standardisée sous R lavaan.
10. Instrument de mesure / Instrument
L’échelle FIRE-DO est conçue pour une passation papier-crayon (Paper & Pencil) ou en ligne (numérique). Elle présente les caractéristiques formelles suivantes :
- Nature de l’évaluation : Questionnaire d’évaluation pédagogique individuelle administré aux apprenants (hétéro-évaluation anonyme par les pairs/stagiaires).
- Format d’administration : Module autonome ou section additionnelle greffée immédiatement à la suite du questionnaire central FIRE. Un champ textuel libre initial permet d’inscrire le nom et prénom du formateur spécifiquement évalué.
- Nombre d’items : 7 énoncés concis et univoques, tous formulés dans le sens positif (absence d’inversion d’items afin d’éviter les biais de formulation et de confusion chez les répondants sous contrainte temporelle).
- Format d’échelle de réponse : Échelle ordinale de type Likert en 7 points graduée de façon symétrique :
- 1 = Pas du tout d’accord (stimme gar nicht zu)
- 2 = Pas d’accord (stimme nicht zu)
- 3 = Plutôt pas d’accord (stimme eher nicht zu)
- 4 = Neutre (neutral)
- 5 = Plutôt d’accord (stimme eher zu)
- 6 = D’accord (stimme zu)
- 7 = Tout à fait d’accord (stimme vollkommen zu)
- Modalité supplémentaire : « Non évaluable / Réponse non pertinente » (nicht sinnvoll beantwortbar).
- Durée de passation : Approximativement 2 minutes par formateur évalué.
- Algorithme de calcul et cotation :
- Étape 1 : Attribution des points — Chaque réponse est convertie en points entiers de 1 (pas du tout d’accord) à 7 (tout à fait d’accord). En cas de sélection de la case « non évaluable », aucun point n’est imputé et l’item est exclu du calcul individuel pour ce stagiaire. Dans les passations papier, les protocoles comportant 2 données manquantes ou plus sur les 7 items sont intégralement écartés.
- Étape 2 : Moyennes d’items — Pour chaque item individuel, on calcule la moyenne arithmétique de l’ensemble des réponses valides fournies par la promotion de stagiaires.
- Étape 3 : Score global de l’échelle — Le score final de la compétence du formateur est obtenu en effectuant la moyenne arithmétique des moyennes des 7 items (somme des 7 moyennes divisée par 7). Le score varie donc rigoureusement de 1.00 à 7.00.
- Règles de confidentialité et d’anonymat : Conformément aux recommandations de Thielsch et Weltzin (2013), un groupe doit comporter un strict minimum de 8 répondants (ou un taux de participation minimal de 50 % pour les petites sessions composées de 9 à 14 apprenants) pour que les données agrégées puissent être communiquées et débriefées, ceci afin d’interdire toute identification directe ou indirecte des répondants par le formateur.
11. Permissions, Tarifs et Année du test / Permissions & Fee and Test Year
- Année de développement et diffusion initiale : Les travaux expérimentaux ont débuté en 2015 (Étude I) et se sont poursuivis en 2017 (Étude II) ; la documentation de référence et la publication de l’outil ont été formalisées en 2019 / 2020.
- Propriété intellectuelle et droits d’auteur : L’échelle FIRE-DO est la propriété conjointe des auteurs (Dr. Julian Schulte et Prof. Dr. Meinald T. Thielsch) et de l’Institut des sapeurs-pompiers de Rhénanie-du-Nord-Westphalie (IdF NRW).
- Conditions de tarification et licence : L’instrument est mis à disposition gratuitement à des fins de recherche académique, scientifique et d’application pratique au sein des structures publiques et associatives de secours et de gestion des crises (sécurité civile, services d’incendie, police, forces armées, organisations humanitaires). Les auteurs soutiennent la démarche d’accès ouvert (Open Science).
- Accès et ressources documentaires : La documentation complète, les formulaires de passation et les publications afférentes à la famille d’instruments FIRE (incluant le module de base FIRE, le FIRE-B pour la formation élémentaire et le FIRE-CU pour la formation des états-majors de crise) sont consultables en libre accès sur le portail institutionnel officiel : go.wwu.de/fire.
12. Références / References
- Browne, M. W., & Cudeck, R. (1992). Alternative ways of assessing model fit. Sociological Methods & Research, 21(2), 230–258. https://doi.org/10.1177/0049124192021002005
- Feldman, K. A. (2007). Identifying exemplary teachers and teaching: Evidence from student ratings. In R. P. Perry & J. C. Smart (Eds.), The scholarship of teaching and learning in higher education: An evidence-based perspective (pp. 93–143). Springer. https://doi.org/10.1007/1-4020-5742-3_5
- Feuerwehr-Dienstvorschrift 100 (FwDV 100). (1999). Führung und Leitung im Einsatz – Führungssystem. Ausschuss Feuerwehrangelegenheiten, Katastrophenschutz und zivile Verteidigung (AFKzV). Kohlhammer.
- Grabbe, Y. (2003). Evaluation von Lehrveranstaltungen an der Westfälischen Wilhelms-Universität Münster [Thèse de doctorat non publiée]. Westfälische Wilhelms-Universität Münster.
- Hagemann, V. (2011). Teamtrainings für High-Responsibility-Teams unter besonderer Berücksichtigung von Beanspruchungsparametern. Verlag Dr. Kovač.
- Institut der Feuerwehr Nordrhein-Westfalen (IdF NRW). (2019). Leitfaden für die Ausbildung von Führungskräften der Feuerwehr. IdF NRW.
- Jäger, R. S. (2004). Von der Beobachtung zur Notengebung: Ein Lehrbuch für die Praxis. Empirische Pädagogik.
- Kolb, D. A. (1984). Experiential learning: Experience as the source of learning and development. Prentice-Hall.
- Pastré, P., Mayen, P., & Vergnaud, G. (2006). La didactique professionnelle. Revue française de pédagogie, 154, 145–198. https://doi.org/10.4000/rfp.157
- Rindermann, H. (2003). Lehrevaluation an Hochschulen: Theoretische Grundlagen und empirische Befunde. Landau: Verlag Empirische Pädagogik.
- Rindermann, H. (2009). Lehrevaluation: Einführung und Handbuch zu Forschung und Praxis (2. Aufl.). Hans Huber.
- Röseler, S., Schulte, J., & Thielsch, M. T. (2020). Einsatzübungen in der Feuerwehr: Evaluation und Trainingserfolg. BrandSchutz / Deutsche Feuerwehr-Zeitung, 74(11), 842–848.
- Röseler, S., Schulte, J., & Thielsch, M. T. (2021). Planübungen in der Feuerwehr: Kompetenzerwerb und Lehrgestaltung. Bevölkerungsschutz, 2021(2), 28–32.
- Rosseel, Y. (2012). lavaan: An R package for structural equation modeling. Journal of Statistical Software, 48(2), 1–36. https://doi.org/10.18637/jss.v048.i02
- Schulte, J., & Thielsch, M. T. (2019). Evaluation von Führungskräftelehrgängen bei der Feuerwehr: Das Feedback-Instrument zur Rettungskräfte-Entwicklung (FIRE). Zeitschrift für Arbeits- und Organisationspsychologie, 63(3), 153–169. https://doi.org/10.1026/0932-4089/a000299
- Schulte, J., Röseler, S., & Thielsch, M. T. (2019). Das Feedback-Instrument zur Rettungskräfte-Entwicklung (FIRE): Handanweisung. WWU Münster: Institut für Psychologie. https://doi.org/10.17879/85149635703
- Smith, T. D., & Dyal, M. A. (2016). Contemporary research on safety culture and climate in the fire service. Current Environmental Health Reports, 3(4), 434–442. https://doi.org/10.1007/s40572-016-0105-0
- Spiel, C. (2001). Evaluationsforschung: Differenzierung von Programmen, Kriterien und Methoden. Zeitschrift für Pädagogische Psychologie, 15(3/4), 123–134. https://doi.org/10.1024//1010-0652.15.34.123
- Thielsch, M. T., & Stegemöller, M. (2014). Münsteraner Fragebogen zur Evaluation – Zusatzmodul Moderation (MFE-ZMo). WWU Münster: Institut für Psychologie.
- Thielsch, M. T., & Weltzin, S. (2013). Lehrevaluation an der Universität Münster: Leitfaden für Dozierende. WWU Münster.
- Whittaker, T. A. (2012). Using the specification search approach in structural equation modeling: Issues and recommendations. Journal of Modeling in Management, 7(3), 266–280. https://doi.org/10.1108/17509651211270478
- Wolf, M., Kersebaum, C., & Strauß, B. (2001). Konstruktion eines Fragebogens zur Erfassung der Qualität der Lehre in der Medizin. Zeitschrift für Medizinische Psychologie, 10(2), 65–75.
13. Questions et items du questionnaire / Scale Items
Instruktion:
Bisher haben sich unsere Fragen auf das gesamte Dozententeam bezogen. Nun soll es um einzelne Dozentinnen und Dozenten gehen. Bitte geben Sie an, auf welchen Dozenten / welche Dozentin Sie sich beziehen werden.
Name des / der nachfolgend bewerteten Dozenten / Dozentin: [ ________________________ ]
Antwortformat: Siebenstufiges Antwortformat mit den Optionen 1 = stimme gar nicht zu, 2 = stimme nicht zu, 3 = stimme eher nicht zu, 4 = neutral, 5 = stimme eher zu, 6 = stimme zu, 7 = stimme vollkommen zu. Ein zusätzliches Feld bietet die Möglichkeit anzugeben, dass das jeweilige Item nicht beantwortbar sei.
-
Der/die Dozierende gestaltet den Unterricht interessant.
[1 = stimme gar nicht zu | 2 = stimme nicht zu | 3 = stimme eher nicht zu | 4 = neutral | 5 = stimme eher zu | 6 = stimme zu | 7 = stimme vollkommen zu | [ ] nicht sinnvoll beantwortbar]
-
Der/die Dozierende geht auf Fragen und Anmerkungen der Teilnehmenden ein.
[1 = stimme gar nicht zu | 2 = stimme nicht zu | 3 = stimme eher nicht zu | 4 = neutral | 5 = stimme eher zu | 6 = stimme zu | 7 = stimme vollkommen zu | [ ] nicht sinnvoll beantwortbar]
-
Der/die Dozierende erklärt komplexe Sachverhalte verständlich.
[1 = stimme gar nicht zu | 2 = stimme nicht zu | 3 = stimme eher nicht zu | 4 = neutral | 5 = stimme eher zu | 6 = stimme zu | 7 = stimme vollkommen zu | [ ] nicht sinnvoll beantwortbar]
-
Der/die Dozierende sorgt für eine angenehme Lernatmosphäre.
[1 = stimme gar nicht zu | 2 = stimme nicht zu | 3 = stimme eher nicht zu | 4 = neutral | 5 = stimme eher zu | 6 = stimme zu | 7 = stimme vollkommen zu | [ ] nicht sinnvoll beantwortbar]
-
Der/die Dozierende setzt Medien und Lehrmaterialien sinnvoll ein.
[1 = stimme gar nicht zu | 2 = stimme nicht zu | 3 = stimme eher nicht zu | 4 = neutral | 5 = stimme eher zu | 6 = stimme zu | 7 = stimme vollkommen zu | [ ] nicht sinnvoll beantwortbar]
-
Der/die Dozierende strukturiert den Unterricht nachvollziehbar.
[1 = stimme gar nicht zu | 2 = stimme nicht zu | 3 = stimme eher nicht zu | 4 = neutral | 5 = stimme eher zu | 6 = stimme zu | 7 = stimme vollkommen zu | [ ] nicht sinnvoll beantwortbar]
-
Insgesamt bin ich mit der Lehrleistung des/der Dozierenden sehr zufrieden.
[1 = stimme gar nicht zu | 2 = stimme nicht zu | 3 = stimme eher nicht zu | 4 = neutral | 5 = stimme eher zu | 6 = stimme zu | 7 = stimme vollkommen zu | [ ] nicht sinnvoll beantwortbar]