A Mirka foi fundada em 1943 em Helsinki pelo engenheiro Onni Aulo. Devido às circunstâncias em tempo de guerra e de problemas técnicos, a produção não começaria até janeiro de 1946. Apesar dos obstáculos e regulamentos estritos na época, Onni Aulo precisou de apenas seis meses para aprender a gerir o processo de produção, algo que foi um grande feito. Depois de muitas mudanças e vários sucessos econômicos da empresa, decidiu em 1962 ir para Kiitola em Jeppo, onde tinha encontrado instalações adequadas. Em 1966 Oy Ab Keppo comprou Mirka e em 1973 as duas empresas se fundiram.
Já no início de 1960 uma parte considerável dos produtos da Mirka eram exportados para os EUA, assim como a Grã-Bretanha e Islândia. Graças aos mercados de exportação em crescimento, a produtividade mais que dobrou em 1965. No final da década de 1970, as exportações somaram 54% do volume de negócios.
Para sobreviver no mercado internacional de abrasivos, foi necessário abrir mão dos produtos baratos a granel e concentrar-se no desenvolvimento de produtos e na industrialização de produtos de alta performance. Em 1969, os primeiros produtos de alta performance chegaram ao mercado bem como a fabricação de discos autoadesivos o que é ainda hoje o grupo de produtos mais importantes.
Uma vez que os novos produtos necessitariam de melhores equipamentos, produção e instalações ampliadas, foi decidido em 1972 investir em uma fábrica moderna, que estaria pronta no ano seguinte.
Em 1977, parte da produção foi transferida para Oravais. A fábrica Oravais foi se expandindo gradualmente ao longo dos anos, sobretudo em 2003. A fábrica em Jeppo expandiu-se entre os anos de 1980 e 1990. O armazém automático, a Torre Jumbo, marco da Mirka em Jeppo estava pronta em 1996 e em setembro de 2004 foi inaugurado o edifício mais novo, o Hall 9 e as instalações de escritório.
As primeiras empresas de vendas foram fundada no Reino Unido em 1976 e na Alemanha em 1980. A subsidiária nos EUA foi fundada em 1985, seguido pela Suécia e França, em 1992, Itália em 1995 e Espanha em 2003. Um escritório de exportação foi fundado em 1996 na Malásia e em 2000 mudou-se para Singapura, hoje uma subsidiária para administrar toda a região Ásia-Pacífico. Durante 2006, a Mirka abriu filiais no Brasil e no México, e um escritório de representação em Xangai, na China. Em 2008, o escritório de representação na China se tornou uma subsidiária independente. Durante esse mesmo ano a Mirka também estabeleceu uma subsidiária na Rússia. Uma nova subsidiária foi fundada no Canadá em 2009. Ainda no mesmo ano de 2009, a subsidiária na Suécia, foi transformado em Mirka Escandinávia, com filiais na Noruega e Dinamarca. A mais nova subsidiária foi fundada em 2010 na Índia para reforçar a posição da Mirka na Ásia.
Hoje Mirka é uma empresa internacional e membro do Grupo KWH. O Grupo KWH foi criada em 1984, quando Oy Ab Keppo comprou metade das ações da Oy Ab & Wiik Höglund. O Grupo KWH é um protagonista reconhecido internacionalmente no mundo dos negócios de hoje.