Az lehet baj, hogy maga a gomb létrehozás is a FormKeyDown() eseményben van? A következőképpen:
procedure TForm1.FormKeyDown(Sender: TObject; var Key: Word; Shift: TShiftState
  );
begin
  if Key=VK_ESCAPE then
     kilepgombkatt(form1)
  else
  begin
    case jatallapot of
    2: begin
            kilepgomb:=TButton.Create(form1);
            kilepgomb.Parent:=form1;
            kilepgomb.Top:=2;
            kilepgomb.Left:=2;
            kilepgomb.Caption:='Esc';
            kilepgomb.OnKeyDown:=@FormKeyDown;
            kilepgomb.OnClick:=@kilepgombkatt;