不貞慰謝料の問題に限った話ではなく、相手方との会話をこっそり録音したものが証拠になるのか疑問を持つ方がいます。

結論としては、民事の訴訟では原則として何でも証拠になります。（証拠になることを、専門的には「証拠能力」があると言います。）

ですから、相手方との会話をひそかに録音していたものでも証拠になります。

隠し録音は証拠にならないなどというデマを知ったかぶりしてSNSなどに投稿する人がいますので、騙されないようにしてもらいたいです。

不倫の慰謝料請求を受けて、請求してきた不倫相手の配偶者と電話や面会で話をする際に録音しておいて、後に録音を証拠とすることもできます。

ただし、著しく反社会的な方法で入手されたようなものは、民事訴訟でも証拠として採用されない場合があります。
録音に関して証拠として採用されない場合と考えられるのは、相手方の家に侵入して盗聴器をしかけて得た録音といった場合が考えられます。

民事訴訟で証拠として採用されないのは例外的な場合ですので、スマホやICレコーダーを自分で所持して自分と相手方の会話を録音しておいたものは通常は証拠になるでしょう。

もちろん、証拠になるとしても、その内容が有利になるか不利になるのか、証拠してどの程度役に立つのかは証拠の内容しだいです。
自分で録音したものが自分に有利になるとは限りません。
また、録音の一部だけの切り取りだと、都合の良い編集をしたものとして、証拠としての信用性が低いものと判断されることもあるでしょう。

会話の中で相手方を脅したりするなど違法な言動があった場合は、自分の違法行為の証拠となります。

トラブルの相手との言った言わないの問題に後でならないように、録音しておくのは大事です。
当然、相手方も録音しているものと想定して発言には気を付ける必要があります。なお、余計なことを認めてしまったり、発言してしまったりするおそれがあるので、相手方との直接の交渉をすることは基本的にお勧めしません。