Messageに以下のように警告文が出ます。3.18%"ACsweepの結果を見ると、この周波数の点のデータが発振しているようになります。この警告文が他の周波数点でも出るため、周波数特性の線が激しく発振している状態となっています。10:53:56PSIMのACスイープは過渡解析の繰り返しです。60サイクル繰り返しても収束しなかった、というエラーですね。タイムステップを小さくするか、定常状態になるよう回路やシミュレーション時間の設定を変えるか、でしょうか。