Nació el 12 de diciembre de 1929, en Dairen (China), hija de padres japoneses, la pianista y compositora, Toshiko Akiyoshi, comenzó a estudiar piano a la edad de 6 años mientras vivía en China. Pero no empezaría a interesarse por el jazz hasta años más tarde, en 1946, coincidiendo con su llegada a Japón. Fue descubierta por el mismísimo Oscar Peterson, durante una visita a Tokio, quien la animó a que viajara a los Estados Unidos. Ingresó en el "Berklee College" de Boston, donde estuvo tres años. Cuando se graduó, en 1959, formó junto a su marido, el saxofonista alto, Charlie Mariano, el "Toshiko-Mariano Quartet" .
Un álbum grabado a principios de los años sesenta para el sello "Candid", titulado "Toshiko Mariano" le proporcionó popularidad y prestigio en los ámbitos musicales de los Estados Unidos.
Se estableció a mediados de los años sesenta en la ciudad de Los Ángeles y formó junto a su segundo marido, el también saxofonista, Lew Tabackin, una Big Band en 1973 codirigida por ambos. En ese formato, graba de manera regular y Akiyoshi, encontró su formula musical preferida. La composición y los arreglos que realizaba, estaban dotados de una calidad extraordinaria dentro del más puro estilo hardbop.
En la década de los ochenta, Akiyoshi se convirtió lentamente en una referencia inexcusable en los conciertos del circuito internacional del jazz y aparecía a menudo, bien como líder, o bien como solista.
Incorporó al jazz el tsuzumi (un pequeño tambor típico japonés) y el canto de las obras teatrales kogun.
En 1986, recibió la condecoración New York City's Mayor Liberty Award y un año más tarde en Los Ángeles, California la Asociación de mujeres Asiática-Americanas la distinguió con Mujer luchadora del año.
El emperador de Japón le otorgó la medalla Shijuhohsho en 1997, y en 1999 ingresó al Salón de la fama del Jazz.
Ha recibido 14 nominaciones al prestigioso premio Grammy a la industria musical y obtuvo el premio al mejor arreglo y composición musical en la encuesta de los lectores de Down Beat.
En Japón su figura musical es venerada con absoluta entrega.
La música que esta pianista crea, demuestra que es posible elaborar y definir un perfil propio a las grandes orquestas con un discurso moderno del jazz. Su disco de 1991, grabado para Columbia en el Carnegie Hall neoyorquino, la consagró definitivamente.
