>文字コードの問題があるということは.htaccessのなかにひらがなや漢字が記述されているということですよね。

スペースも含めて全角は記述していません。『AddHandler x-httpd-php5 .php』+改行しか記述していません。アルファベットと数字のみなのに確かに腑に落ちませんよね。でも、「.htaccess UTF-8」などでググると同様の記事をいくつか見かけます。
原因は.htaccessで間違いないのですが、なぜかまでは分かりません。もやもやしますけど。

>もしアルファベットと数字のみの記述であれば、改行コードの問題の気がします。

改行コードは私も疑ってみたのですが、変更してみても500エラーは変わりませんでした。

なるほど、バイナリーモードやアスキーモードなどいろいろ弊害があるのですね。
勉強になりました。