سلام
مراجع شما مشکلی ندارند. تا زمانی که شما با دستور {نام کوتاه مرجع} \cite استفاده نکنید مرجعی در متن ظاهر نمیشود.
به عنوان مثال در فایل شما میتوان از موارد زیر نام برد:
\cite{Vahedi87}
\cite{Amintoosi09regional}
\cite{Amintoosi09video}
در واقع شما این فراخوانی مراجع را در \appendix1 داشتهاید که آن را با قرار دادن نماد درصد غیر فعال کردهاید.
برای اجرا در بایدای تکمیکر هم چهار مرحله دارد که به ترتیب با کلیدهای زیر باید انجام شوند:
f1 %for xelatex
f11 %for bibtex8
f1 %for xelatex
f1 %for xelatex
توجه کنید که در سربرگ Option--Configure Texmaker...Command در این ویرایشگر باید کد روبروی Bibtex به صورت زیر باشد:
bibtex8 -W -c cp1256fa %
همچنین در Option--Configure Texmaker...Quick Build تنظیمات زیر را باید داشته باشد:
xelatex --shell-escape -interaction=nonstopmode -synctex=-1 %.tex
به دو تصویر کمکی زیر توجه کنید:


اگر با ویرایشگر تکاستودیو یا تک ورکس هم علاوه بر تکمیکر استفاده میکنید میتوانید این لینک را ببینید.
اینم قسمتی از خروجی فایل شما با تکلایو 2017 است:

موفق باشید.
ویرایش دوم در پاسخ به سوال شما در قسمت نظرات:
دوست عزیز
به نظر میاد توضیحات منو به دقت نخوندید و عمل نکردید بشون. فایلی رو که دوباره ارسال کردید قسمت appendix1 در فایل main.tex غیر فعال است. درصد رو از قبلش بردارید. من نمیدونستم که چه مرجعی رو شما اضافه کردید لذا همه رو پاک کردم و دوباره اینها رو اضافه کردم:
@ARTICLE{d,
author= {مددپور،شاپور},
TITLE = {همریختی و بروریختی در حلقهها},
JOURNAL = {مجلهی گراف فارس},
VOLUME = {1},
YEAR = {1395},
NUMBER = {1},
MONTH = {بهار},
PAGES = {39-43},
LANGUAGE = {Persian}
}
@Article{a,
author={{Bob T, Smith}},
title = {Title},
journal = {Journal},
year = { 1986}
}
و توی appendix1 به این صورت فراخوانی کردم:
\cite{a}
\cite{d}
و اینم خروجی شما میشه داخل همون فایل خودتون:

در زمینهی خطایی که با زدن f11 هم میفرمایید یا ویرایشگرتون درست تنظیم نیست که مراحل تنظیمشو در بالا خدمتتون عرض کردهام (یا دوباره حذف و نصبش کنید) و یا اینکه فایلهای با پسوند aux و bbl قبلی رو قبل از پردازش پاک نمیکنید.