Du har den rigtige idé, du kan bare ikke bruge aliaser i where sådan klausul. Bare brug formlen direkte, og du burde have det godt. Du skal nok også bruge <= , og ikke = :
select Fname, Lname, Salary, 1.10 * Salary as NewSalary
from employee
where 1.10 * Salary - (select AVG(salary) from employee) <= 400;