Bom, como é Mac eu não posso lhe ajudar 100%.
Mas por que você não procura na internet uma .minecraft que já tenha o shaders instalado? Quando eu tentava instalar mods antigamente eu não conseguia, então passei a baixar .minecraft prontas.
Obs: você instalou o forge?