A felnőtt szürke bálnák szűrőbálnák (baleen whales), azaz fogak helyett szűrőleveleik vannak. Ezek a lemezek keratinból épülnek fel, ugyanaz az anyag, mint az emberi köröm, és szűrnek ételt a vízből.
A felnőtt szürke bálnák elsősorban apró rakkal ápályúakra, krillekre (krill) és más kis gerinctelenekre, mint amphipodák és copepodák támaszkodnak. Néha kis halakat is esznek.
Az étel kereséséhez a szürke bálnák a iszap-beragazás (mud-plugging) technikát használják. Nagy mennyiségű iszapot merítenek fel az óceánfenekről, a szűrőleveleikkel kiszúrják az ételrészecskéket, és az iszapot és a vizet kiválasztják.