Ответ:

1) Длина вектора а=sqrt(36+64)=10.   a*b=10*1*cos60=10*(1/2)=5

2) Координаты вектора а{0; 6; -8}.  Тогда условие перпендикулярности векторов:

6 — 8m = 0,  m = 6/8 = 3/4 = 0,75