۱) به جای استفاده از دستور \usecounter{\thechapter}
که کاربردش در اینجا اشتباه است از دستور \thechapter
استفاده کن.
۲) من دقیقاً نمیدونم چه کاری میخواهی انجام بدهی هر چند در شکل کلی دستور \myfig
میتونه اینجوری تعریف بشه:
\newcommand*{\mychfig}[1]{%
\ifnum\value{#1}=1
\rule{10mm}{10mm}
\else
\ifnum\value{#1}=2
\rule{20mm}{20mm}
\else
\PackageError...
\fi
\fi}
در اینصورت آرگومان نام counter است (در این مورد chapter).
هر چند اگر میخواهی بسته به شماره فصل \rule
پهنا و ارتفاع متفاوتی داشته باشد احتیاجی به دستور شرطی نیست و تعریف زیر کافی است؛
\newcommand{\mychfig}{%
\rule{\dimexpr10mm*\thechapter}{\dimexpr10mm*\thechapter}
}%