ja_JPで試してみましたが、日本語フォームは英語のままです。
日本語フォーム ⇒ 英語
英語フォーム ⇒ 英語
ja_JP.UTF8だと、
[送信ボタン]は言語通りでOKです。
日本語フォーム ⇒ 日本語
英語フォーム ⇒ 英語
[エラーメッセージ]は、英語フォームで日本語が表示されてしまいます。
送信ボタンも日本語になってしまいます。

日本語フォーム ⇒ 日本語
英語フォーム ⇒ 日本語
jp_JP ではなく、 ja_JP です。ロケールの国際規格で、前半は言語、後半は地域を表します。
japanese / Japan
という設定です。試してみてください。
acliss
Re: 多言語サイトのフォームの翻訳
LOCALEの設定をするのなら
ja_JP.UTF8 じゃないでしょうか?
違っていたらごめんなさい。