使われているテーマのfooter.phpにありますので、そこを探して編集してください。
どのテーマですか？

Greek Yogurtです。
場所はわかるのですが、何を消せばよいのか、何が消してはいけないものなのか、がわからず…

安全な手順…

1. concrete/themes/greek_yogurt/ 以下のファイルを全てダウンロードする
2. ダウンロードしたファイルを themes/greek_yogurt/ にアップロードする
3. themes/greek_yogurt/elements/footer.php を修正する

インストール直後は themes/ フォルダは空ですが、ここにファイルをアップロードすると、こちらのファイルが優先される。削除すると、もともとあった concrete/themes/ フォルダのファイルが使われる。というしくみになっています。要するに、 themes/ フォルダの中のファイルの編集をミスってしまっても、単にファイルを削除すれば元に戻るというわけですね。

さて、削除されたいログイン部分は <p class="footer-sign-in"> から対応する </p> まで、Built with〜部分は <p class="footer-tag-line"> から対応する </p> までです。変なふうに消してしまっても、上記手順を踏んでいればいつでも元に戻せますので、チャレンジしてみてください。

返信遅くなり申し訳ありません。
ご教示いただきましたとおり、concrete/themes/greek_yogurt/のファイルを全てコピーし、
htmldocs/themes/greek_yogurt/にアップしてからfooterを編集してみたのですが変更ができず…
使っているサーバーはドメインキングなのですが、もしかしてこれも何か関係があるのでしょうか？

上書きしたはずなのに反映されない場合は、［管理画面→システムと設定→キャッシュのクリア］を試してみてください。