SergeR,
Ладно, подождем, что скажет Braza, как главный любитель математических задач.
Браза думает

Где-то встречал эту задачку раньше, там довольно длинное описание решения. Как правильно сказал Алекс, надо разбить 10 монет на три кучки - 3 3 4. Взвешиваем 3 и 3, здесь два варианта - либо они равны, либо нет, дальше пока не помню ход решения...
ЗЫ Надумал

Значит, так.
Делим монеты на 4 кучки - 3 3 3 1
Вариант 1
Взвешиваем первые две кучки, если одинаковы, завешиваем третью кучку и любую из двух первых.
Если и они одинаковы то значит последняя монета и есть фальшивая, завешиваем любую монету из этих трех кучек и последнюю и определяем тяжелее она или легче.
Если на втором взвешивании третья кучка оказывается тяжелее (легче), то фальшивая монета в третьей кучке. Разбиваем третью кучку на три монеты - 1 1 1 и взвешиваем их. Если они обе одинаковы то фальшивая третья монета и она тяжелее (легче), или если одна из них тяжелее (легче) то она и есть фальшивая.
Вариант 2
При первом взвешивании 1-я и 2-я кучки не равны. Допустим 1-я кучка тяжелее (легче) 2-й.
Завешиваем 1-ю и 3-ю. Если они одинаковы значит фальшивая монета легче (тяжелее) и находится во второй кучке. Дальше опять разбиваем эту кучку на три монеты 1-1-1 и делаем как и в первом варианте.
А если 1-я и 3-я кучки неодинаковы (1-я кучка тяжелее (легче) 3-й) то фальшивая монета в 1-й кучке и она тяжелее (легче). Дальше опять 1-1-1 и находим фальшивую.