Krall era aún una adolescente cuando obtuvo una beca para el prestigioso Berklee College of Music de Boston. Tras dos años en Boston, se trasladó a Los Ángeles, donde conoció a sus primeros pesos pesados del jazz, como el bajista John Clayton, el batería Jeff Hamilton, el pianista y cantante Jimmy Rowles y Ray Brown, el legendario bajista que fue su mentor musical. En 1993, Justin Time Records, con sede en Montreal, publicó su álbum de debut, Stepping Out. Al año siguiente, firmó con GRP Records y grabó Only Trust Your Heartcon Ray Brown al bajo y Stanley Turrentine al saxo tenor. Only Trust Your Heart también marcó el comienzo de su asociación con Tommy LiPuma, una colaboración que continuaría hasta el prematuro fallecimiento de LiPuma en 2017.

El éxito de Krall continuó con sus siguientes lanzamientos All for You y Escenas de amor, pero su momento decisivo llegó en 1999 con el lanzamiento de When I Look in Your Eyessu primer disco para el histórico sello Verve. La grabación permaneció 52 semanas en el número 1 de la lista Billboardganó dos premios Grammy y se convirtió en disco de platino en Estados Unidos y Canadá. El siguiente álbum de Krall The Look of Lovecontinuó su éxito internacional y se convirtió en uno de los 10 más vendidos de la lista Billboard 200. Desde entonces, ha publicado una serie de discos que han creado un impresionante corpus de trabajo, entre ellos el aclamado por la crítica Turn Up the Quietque le valió dos premios Juno, entre ellos el de productora del año. Love Is Here to Stay Krall colaboró con su viejo amigo y colega Tony Bennett. Se grabó con el Bill Charlap Trio, ganador de un Grammy, y el asombroso resultado es una sutil, sofisticada y bellamente interpretada carta de amor a la música de los Gershwin y a su condición de principales compositores del estándar popular americano. Es una clase magistral de vocalización y fraseo, y el dominio que Bennett y Krall muestran del material, tanto en sus duetos como en los temas en solitario, hace que parezca que no les supone ningún esfuerzo, lo que contradice la gran destreza de los vocalistas. Los temas a dúo incluyen "Love Is Here to Stay", "'S Wonderful", "They Can't Take That Away from Me" y "Fascinating Rhythm".

Su lanzamiento más reciente, This Dream of Youha sido aclamado por los fans y la prensa. Este álbum es la cariñosa conclusión de los 25 años de relación laboral entre Krall y Tommy LiPuma. Poco antes del fallecimiento de LiPuma, el productor y la artista hablaron de la abundancia de buena música grabada en sus últimas sesiones juntos. LiPuma insistió en que esa música debía completarse y publicarse. Krall y el ingeniero Al Schmitt mezclaron y secuenciaron el álbum para su publicación en 2020, honrando así a su gran y añorado amigo. (El propio Schmitt murió en 2021.) De este lanzamiento salió el estreno mundial de Otoño en Nueva Yorkuna oda cinematográfica a la ciudad, dirigida por Mark Seliger, amigo y colaborador de Krall durante muchos años, que ofrece un complemento visual a la cariñosa y esperanzada interpretación de Krall de la canción.

Las grabaciones de Krall se han incluido en varias bandas sonoras de películas, y ha ampliado su papel como intérprete para incluir la composición, producción y arreglos, aportando su talento a colaboraciones con muchos otros artistas, como Paul McCartney y Barbra Streisand, así como Tony Bennett. Realiza numerosas giras por todo el mundo con entradas agotadas, actuando en los principales festivales de jazz y salas de conciertos de Norteamérica, Europa, Asia y Australia.