Hola, o las casualidades existen (
) o debo decir "hola compañero de clase"
...
Si buscas en inglés en google... encontrarás que existen multiples algoritmos y abundante material sobre ello. Puedes buscar metodos como el "ICA"(independent component analysis), donde uno de sus algoritmos más utilizados es el "fastICA"(para resolver el problema de de la separación ciega). Incluso está disponible el "fastICA package", para Matlab (aunque no hace falta decir que esa no es forma de resolver el problema jeje). También puedes buscar información relativa a "coktail party problem", o "problema de la fiesta".
De todas formas, en el trabajo da pistas sobre una manera mucho más sencilla (comparado con tecnicas como el ICA o el PCA,principal component analysis).
De todas maneras, este es un problema muy muy tratado y sobre el cual no existe una forma óptima de resolverlo.
salu2