Cómo probar si un kernel es un núcleo válido

Question

Si defino mi propio método para determinar la similitud entre dos entidades de entrada de mi clasificador de máquina de vectores de soporte, y así lo defino como mi kernel, ¿cómo puedo verificar si es verdad? un núcleo válido que puedo usar?

Por ejemplo, si mis entradas son cadenas, y el núcleo que elijo es para decir una especie de métrica de distancia de cadena, ¿cómo puedo decidir si puedo usarla o no para mi SVM. Sé que hay algunas condiciones para un kernel SVM válido. ¿Alguien puede decirme qué son y cómo se puede verificar esas condiciones?

Answer 1

Las funciones del núcleo deben cumplir Mercer's condition También puede encontrar respuestas a lo que está preguntando en el stats forum.

Answer 2

La prueba más directa se basa en lo siguiente: Una función de núcleo es válida si y solo si la matriz del kernel para cualquier conjunto particular de puntos de datos tiene todos los valores propios no negativos. Puede probar esto fácilmente tomando un conjunto de puntos de datos razonablemente grande y simplemente verificando si es verdadero. Por ejemplo, si seleccionó 2000 muestras de datos al azar, creó su matriz de kernel 2000x2000 correspondiente y observó que tenía valores propios no negativos, entonces es muy probable que tenga un kernel legítimo. Alternativamente, si hay valores propios negativos, entonces la función del kernel candidato definitivamente no es un kernel legítimo.

Answer 3

También puede consultar la referencia http://cs.nyu.edu/~dsontag/courses/ml12/slides/lecture6.pdf donde el autor proporciona "Kernel Algebra" que se desprende de las afirmaciones hechas anteriormente - Teorema de Mercer de que la Kernel Matrix correspondiente es semi-definida simétrica positiva y los valores propios positivos se derivan de eso. El autor también muestra, como ejemplo, que la función gaussiana hace un Kernel válido. Lo proporcionaré aquí en caso de que no desee buscar la referencia: