【Unity】ステンシルバッファをポストエフェクトで使う方法（と謎の挙動）

ポストエフェクトでステンシルバッファを使う方法です。

なんかいろいろと挙動（の原因）がわからないところがあるのでメモがてら。
結論だけ知りたい方は「結論」の節まで飛ばしてもらえればわかるようになってます。

Unity2017.4.1

前提

今回のプロジェクトは次の記事で作ったものを使いまわします。

light11.hatenadiary.com

CommandBufferでポストエフェクトをかけることによりステンシルバッファによるアウトラインを実現した記事です。

ダメなケース、いいケース

まず、一般的なやり方でポストエフェクトをかけてみます。
上記の記事のカメラ用スクリプトをCommandBufferを使ったものから一般的なポストエフェクトのかけ方に変えます。

using UnityEngine;

[RequireComponent(typeof(Camera))]
public class StencilOutline : MonoBehaviour
{
    [SerializeField]
    private Shader _shader;
    [SerializeField]
    private Color _outlineColor;

    private Material _material;

    private void Awake()
    {
        _material = new Material(_shader);
        _material.SetColor("_OutlineColor", _outlineColor);
    }
    
    private void OnRenderImage(RenderTexture source, RenderTexture dest)
    {
        Graphics.Blit(source, dest, _material);
    }
}

これをカメラにアタッチします。
ちなみにカメラのMSAA、HDR、オクルージョンカリングは無効にしておきます。

するとなぜかポストエフェクトがかかりません（アウトラインが黄色くなるのが正解です）。

f:id:halya_11:20180508232713p:plain

試しにこの状態で、ポストエフェクト用シェーダのステンシルの比較関数をEqualからNotEqualにしてみます。

Stencil{
    Ref 1
    Comp NotEqual
}

するとアウトライン以外が黄色で描画されるべきはずが、
全面黄色で描画されてしまいます。

f:id:halya_11:20180508232855p:plain

ステンシルバッファがクリアされてるか感じの挙動。
なぜ・・？
FrameDebuggerを見てもいまいちわかりません。

仕方がないので以前の記事と同じようにコマンドバッファでポストエフェクトをかけてみます。
（上で変更したポストエフェクトのシェーダのステンシル設定は戻しておきます。）

[RequireComponent(typeof(Camera))]
public class StencilOutline : MonoBehaviour
{

    [SerializeField]
    private Shader _shader;
    [SerializeField]
    private Color _outlineColor;

    private void Awake()
    {
        Initialize();
    }

    private void Initialize()
    {
        var camera = GetComponent<Camera>();
        var material = new Material(_shader);
        material.SetColor("_OutlineColor", _outlineColor);

        // CommandBufferを登録
        var commandBuffer = new CommandBuffer();
        int tempTextureIdentifier = Shader.PropertyToID("_WorldPostEffectTempTexture");
        commandBuffer.GetTemporaryRT(tempTextureIdentifier, -1, -1);
        commandBuffer.Blit(BuiltinRenderTextureType.CurrentActive, tempTextureIdentifier);
        commandBuffer.Blit(tempTextureIdentifier, BuiltinRenderTextureType.CurrentActive, material);
        commandBuffer.ReleaseTemporaryRT(tempTextureIdentifier);
        camera.AddCommandBuffer(CameraEvent.BeforeImageEffects, commandBuffer);
    }
}