a háromszöghöz csak rendezd csökkenő sorrendbe az oldalakat. A leghosszabb legyen a c, utána:

if (a*a + b*b == c*c) and a>0 and b>0 and c>0 then
háromszög
else
nem háromszög
end

Nem szép, de a feladatkiírások se túl profik