エラーアドレスの通知は、

 MyASPトップ画面 > 全体操作メニュー > メール共通設定

から、
「エラーメール処理」タブの
「配信エラーが所定回数に達してエラーアドレス判定されたときに通知メールを送る」
のチェックを外して設定を保存することで送信されなくなります。

補足

エラー結果を確認している際、
「配信に失敗しました」という結果がありますが
なぜ、配信に失敗したということになるのでしょうか?

【MyASPエラーアドレス通知】というメールが
配信の度に多く届くので、毎回同じアドレスの通知を
自動的に送っているのかと思っていたのですが
重複も特になく毎回新規のアドレスなので疑問に感じました。

【MyASPエラーアドレス通知】メールは、
知らないうちに、エラー判定されていて
メールが送られないと問題になることがあるため、
【MyASPエラーアドレス通知】というメールで、
運営者側に通知を送るように設定しています。

※通知メールが送られるのは、エラーアドレスとみなしたときの
1度だけのため、重複して送られることはありません。

※この通知メールが不要な場合は、

 MyASPトップ画面 > 全体操作メニュー > メール共通設定

から、
「エラーメール処理」タブの
「配信エラーが所定回数に達してエラーアドレス判定されたときに通知メールを送る」
のチェックを外していただいて設定保存していただくと、送られなくなります。

次に、
「配信に失敗しました」となる原因はいくつかあります。

そのリンクをクリックした先の
エラーメール本文を確認することで、
原因の詳細を紐解くことができます。
※多くの場合英語で記述されています

これらのエラーアドレスを一括で解除することはできますでしょうか。

不達メールを自動クリーニングする機能がありますので、
手動で配信解除しなくても大丈夫なようになっています。