売れなかった場合、費用はかかるのでしょうか？

基本的に、費用は発生しません。
一般的に行われる広告費や、不動産購入希望者の現地見学に関わる費用は、売買契約時に発生する仲介手数料に含まれているためです。ただし、例外として売主側の特別な依頼を元に発生した広告費などの「実費」などは請求される場合があります。
また、媒介契約締結後に契約内容に反した形で売却を取り下げる場合、手数料がかかる場合があります。 不動産会社との媒介契約の際、契約書内容を確認して、疑問があれば納得いくまで説明してもらいましょう。