“Is this yours book? “は正しいですか？
いいえ、正しくありません。
thisとyours/yoursを混同しているようですが、
thisは「決定詞」として働くことができます。 また、「指示代名詞」としても機能します。
This book is mine. — これは、決定詞です。 決定詞は名詞と一緒に使われます。
This is a book. — これは「示範代名詞」です。 これは代名詞です。
Yourは「所有格の決定詞」です。
Yoursは「所有格の代名詞」です。
That book is your book. — Yourは所有格の決定詞です。 名詞と一緒に使われます。
That book is yours. — Yoursは所有格の代名詞です。
最後の文（「その本はあなたのものです」）では、yours = your bookです。
もし英語がまだ慣れていないのであれば、まず疑問文（「疑問文」）を疑問文ではない平易な文（「宣言文」）にすることをお勧めします。 宣言文のほうが理解しやすいからです。 受け入れられることがわかっている「この本はあなたのものですか」から始めましょう：
Is this book yours?
(~ This book is yours.) — Thisは決定詞です。
他のバリアントも試してみましょう：
Is this book your book?
(~ This book is your book.) — これは決定詞です。 Yourは所有格の決定詞です。Is this your book?
(~ This is your book.) — これは指示代名詞です。Is this yours?
(~ This is yours.) — これは指示代名詞です。 Yoursは所有代名詞です。
なぜ “Is this yours book? “が使えないのでしょうか？
なぜならyoursはすでに（所有）代名詞だからです。 名詞のように使えます。 あなたの本」という意味でyoursを使うと、次のような文章になります：
Is this yours book? < — DO NOT USE THIS！
（～これはあなたの本です）
（～これはあなたの本です） — 「これはあなたの本の本です」では意味がありません。
だからこそ、”Is this yours book? “は正しくないのです。
特典：Wikipediaの英語の基本的な人称代名詞の表が役に立つかもしれません。 英語の人称代名詞をすべて網羅しています。
お勧めです。