トラックマットとは何か
厳密な定義はあると思いますが
簡単にいうと、上のレイヤー（or コンポジション）に対して、合成の影響を与える設定です。
シェイプレイヤーと組み合わせて使うことによって、強力なツールとなります。
トラックマットには4種類の設定があります。
・アルファマット × (通常)
・アルファマット × 反転
・ルミナンスマット × (通常)
・ルミナンスマット × 反転
アルファマットは通常の合成です。
例えば、
星型のシェイプレイヤーの下に動画を設置、アルファマットをOnにすると、星型の動画にくり抜かれます。
これを、アルファマット × 反転をOnにすると、星型以外の部分が残った動画になります。
ルミナンスマットは輝度に対しての合成です。
輝度の高低でいうところの、白、黒のレイヤーの場合には、
白：合成される
黒：合成されない
（中間の輝度であれば、中間度合いで合成される）