職務適合度はどう計算されるか
集計は決まった連なりに従います。まず、それぞれの評価ルーブリックの基準の中で、その基準を採点したすべての評価者のスコアが平均されます。次に、基準ごとの平均が評価ルーブリックの基準の重みに従って合わさり、課題のスコアを生みます。課題のスコアは、それが測るスキルへ積み上がります。
最後に、それぞれのスキルの寄与がスキルの重みとセクションの重みの積で重み付けされ、職務適合度のパーセントがこの重み付きの集計から生まれます。どの段階も決まった手順なので、同じ証拠からは常に同じ職務適合度の数字が生まれます。
評価ルーブリックのスコアは自動採点のスコアより優先されます
課題によっては、自動採点のスコア(たとえば多肢選択の正解によるもの)と、評価者が入力した評価ルーブリックのスコアの両方を持ちます。同じ課題に両方があるときは、評価ルーブリックのスコアが優先され、集計に使われます。
関連して覚えておくべき規則が 1 つあります。正解のない設問は自動採点が null になり、手動での確認が必要という意味になります。null が 0 点として扱われることはないので、確認されていない回答が候補者の職務適合度を知らないうちに引き下げることはできません。
重みを設定する場所
重みは builder の 2 か所にあります。基準の重みは評価ルーブリックのエディターで設定します。それぞれの基準が、その課題の中でどれだけ数えられるかを操作する倍率(×N と書きます)を持ちます。セクションの重みは各セクションで設定します。構造エディターでそのセクションの編集フォームを開き、Scoring weight を設定してください。Scoring & reporting のパネルはその後、アセスメント全体の自動採点・評価ルーブリック・手動の件数と並べて、重みを読み取り専用でまとめます。
重みは下書きでも公開中のアセスメントでも編集できます。職務適合度は現在の重みを使って保存されたスコアから計算されるので、公開中のアセスメントで重みを変えると、すでに提出した候補者を含むすべての候補者について職務適合度が集計し直されます。素点が変わることはありませんが、パーセントは動きます。職務ブループリントに紐づいたアセスメントでは、記録済みの決定は決定時点の職務適合度のスナップショットを保ちます。終了済みとアーカイブ済みのアセスメントはロックされています。変更するには複製して新しい下書きにしてください。
- 基準の重み: 評価ルーブリックのエディター、基準ごと(×N)。
- セクションの重み: 構造エディターの各セクションの編集フォーム。Scoring & reporting にまとめられます。
- 公開中のアセスメントでの重みの変更は、全員の職務適合度を集計し直します。素点が変わることはありません。
重みはレポートのどこに現れるか
候補者も確認する人も、重み付けが適用されたことを見て取れます。候補者の証拠レポートでは、アセスメントに複数のセクションや重みがあるときはいつでも課題がセクションごとにまとめられ、既定と異なる重みのまとまりにはそれぞれ ×N の重みのバッジが付き、重み付け採点の注記が、スコアが平らに平均されたのではなく重みによって合わされたことを説明します。監査パックも、セクションの重み、評価ルーブリックの基準の重み、スキルの対応づけを、平易な言葉の方法論と並べて記録します。
At a glance
- 基準の中で評価者のスコアが平均され、基準は評価ルーブリックの重みで合わさります。
- 課題のスコアはスキルへ積み上がり、それぞれのスキルはスキルの重みとセクションの重みの積で寄与します。
- 職務適合度のパーセントは、この重み付きの集計の結果です。
- 課題に評価ルーブリックのスコアと自動採点のスコアの両方がある場合は、評価ルーブリックが優先されます。
- 重みは候補者の証拠レポートにバッジとして現れ、重み付け採点の注記が添えられます。