Unión de inexactos
Una unión de inexactos de Analytics utiliza la correspondencia inexacta de los valores del campo clave para combinar dos tablas de Analytics en una tercera tabla. En la mayoría de los aspectos, una unión de inexactos es como una unión de Analytics común (consulte Unir tablas). La principal diferencia es que, además de unir los registros basándose en los valores de los campos clave con una correspondencia exacta, una unión de inexactos puede unir registros que tienen una correspondencia aproximada.
La unión de inexactos es útil cuando las claves primaria y secundaria contienen el mismo tipo de datos, pero con leves diferencias de forma. O si los datos de los campos clave tienen pequeñas irregularidades, como errores de tipeo, que podrían impedir una correspondencia exacta.
Ejemplo
Escenario
Desea identificar a los proveedores que también son empleados como una de las formas de analizar datos para posibles pagos inadecuados.
Enfoque
Usted une la tabla maestra Vendor (Proveedores) con la tabla Employees (Empleados) utilizando el campo de domicilio como la clave común (Vendor_Street y Emp_Address). Sin embargo, la forma de los datos de domicilio en los campos clave tienen leves diferencias; por eso, utiliza una unión de inexactos en lugar de una unión común.
Una mirada a algunos de los datos
Sin un trabajo significativo de limpieza y unificación de los datos, sería imposible unir los valores de clave primaria y secundaria que se muestran a continuación utilizando una unión común de Analytics, aun cuando los domicilios son bastante similares.
Valores de clave primaria | Valores de clave secundaria |
---|---|
605 3rd Avenue | 605 Third Avenue |
400 High St SE | 400 High Street S.E. |
2203 Rowan Street | 2203 Rowen St |
Aunque se realizara una limpieza y unificación de los datos, los valores clave con diferencias mínimas de ortografía, como "Rowan" y "Rowen", probablemente no coincidirían.
Los valores clave podrían unirse con una unión de inexactos, según la configuración que se utilice.
Resultados de la salida
En el ejemplo de la tabla unida a continuación, las correspondencias exactas de los campos clave se destacan en violeta y las correspondencias inexactas de los campos clave, en verde.
Comparación entre unión de inexactos y duplicados inexactos
Una unión de inexactos analiza los valores de los campos clave de dos tablas. Si desea comprobar un campo único en una tabla única de Analytics para detectar valores casi idénticos, consulte Descripción general de los duplicados inexactos.
Tamaño de la tabla de salida y rendimiento del comando
Tamaño de la tabla de salida
La unión de inexactos es similar a la unión de muchos a muchos de Analytics. En principio, todos los valores clave primarios podrían tener una correspondencia con todos los valores clave secundarios. El tamaño de la tabla de salida puede ser muchas veces mayor que el tamaño de cualquiera de las tablas de entrada primaria o secundaria.
Desempeño del comando
Los algoritmos de correspondencia inexacta se aseguran de que solo se unan los valores clave que tienen un grado específico de imprecisión o los valores con una correspondencia exacta. Sin embargo, se deben probar todas las posibles correspondencias primarias. Esto significa que el proceso de unión de inexactos puede llevar mucho tiempo. La cantidad de pruebas individuales que se deben realizar es igual a la cantidad de registros de la tabla primaria por la cantidad de registros de la tabla secundaria.
Mejores prácticas
Al preparar las tablas de entrada primaria y secundaria, y especificar el nivel de inexactitud, tenga en cuenta el tamaño de la tabla de salida y el desempeño del comando.
- Adapte los datos Asegúrese de que se incluyan únicamente los registros pertinentes en las tablas primaria y secundaria. Si algunos registros no tienen probabilidades de tener una correspondencia, quítelos con un filtro antes de realizar la unión de inexactos.
- Pruebas de ensayo Si tiene conjuntos de datos de gran volumen, realice pruebas de ensayo con una pequeña parte de los datos para determinar de forma más eficiente los ajustes de los algoritmos de la unión de inexactos. Comience con un ajuste de inexactos más conservador y, si es necesario, hágalo progresivamente más laxo.
Algoritmos de correspondencia de inexactos
Al realizar una unión de inexactos, debe escoger entre dos algoritmos de correspondencia de inexactos diferentes:
- Coeficiente de Dice
- Distancia de Levenshtein
Los algoritmos actúan de manera independiente entre sí y pueden generar resultados algo distintos. Un enfoque consiste en realizar una unión de inexactos dos veces, una vez con cada algoritmo, y después comparar los resultados. En general, en cada conjunto de resultado existe una cantidad de correspondencias inexactas que se superponen, pero algunos resultados pueden ser exclusivos de cada conjunto de resultados.
Grado de inexactitud
Usted especifica el grado de inexactitud de cada algoritmo, lo cual puede modificar drásticamente el tamaño y la conformación del conjunto de resultados. El "grado de inexactitud" se relaciona con el nivel de coincidencia entre dos valores.
Según el algoritmo que seleccione, utilizará los siguientes ajustes para controlar el grado de inexactitud:
Algoritmo | Ajuste |
---|---|
Coeficiente de Dice |
|
Distancia de Levenshtein |
|
Haga pruebas con diferentes grados de inexactitud. Comience de manera conservadora y genere conjuntos de resultados más pequeños. A continuación, haga los ajustes progresivamente más laxos hasta que comience a obtener demasiados valores unidos que obviamente no son correspondencias (falsos positivos).
Coeficiente de Dice
El algoritmo del coeficiente de Dice mide el grado de similitud entre un valor clave primario y uno secundario, utilizando una escala de 0,0000 a 1,0000. Cuanto mayor sea el coeficiente de Dice de los dos valores, mayor será su similitud.
Coeficiente de Dice | Significado |
---|---|
1,0000 |
Cada valor está conformado por un conjunto de caracteres idéntico, aunque estos puedan estar en un orden diferente y presentar diferencias en el uso de mayúsculas y minúsculas. Los n-gramas de los dos valores son 100 % idénticos. A continuación, se explican los N-gramas. |
0,7500 |
Los n-gramas de los dos valores son 75 % idénticos. |
0,0000 | Los dos valores no tienen n-gramas idénticos, o la longitud especificada en el ajuste del N-grama es superior al más corto de los dos valores que se están comparando. |
N-gramas
El coeficiente de Dice se calcula dividiendo primero los valores que se están comparando en n-gramas. Los N-gramas son bloques superpuestos de caracteres, con una longitud de n, que es la longitud que usted especifica en el ajuste N-grama.
Aquí se incluyen dos de los valores del ejemplo anterior divididos en n-gramas con una longitud de 2 caracteres (n = 2).
2203 Rowan Street | 22 | 20 | 03 | 3_ | _R | Ro | ow | wa | an | n_ | _S | St | tr | re | ee | et |
---|---|
2203 Rowen St | 22 | 20 | 03 | 3_ | _R | Ro | ow | we | en | n_ | _S | St |
El coeficiente de Dice representa el porcentaje de n-gramas de los dos valores que son idénticos. En este caso, 20 de 28 n-gramas son idénticos, lo que equivale a 71,43 %, o a 0,7143 en una expresión decimal.
Nota
El incremento de la longitud en el ajuste N-grama hace que el criterio para la similitud entre dos valores sea más estricto.
Porcentaje
Al especificar un ajuste de Porcentaje, está especificando el coeficiente de Dice mínimo permitido entre dos valores para que se los considere una correspondencia inexacta. Por ejemplo, si especifica 0,7500, al menos el 75 % de los n-gramas de los dos valores deben ser idénticos para que haya una correspondencia.
Ajuste del porcentaje | Significado | 2203 Rowan Street / 2203 Rowen St |
---|---|---|
0,7500 |
Para que se considere una correspondencia inexacta, al menos el 75 % de los n-gramas de los dos valores deben ser idénticos. |
Sin correspondencia, no se incluyen en la tabla unida (Coeficiente de Dice = 0,7143) |
0.7000 |
Para que se considere una correspondencia inexacta, al menos el 70 % de los n-gramas de los dos valores deben ser idénticos. |
Con correspondencia, se incluyen en la tabla unida (Coeficiente de Dice = 0,7143) |
Si desea obtener información detallada acerca del funcionamiento del coeficiente de Dice, consulte la función DICECOEFFICIENT( ).
Distancia de Levenshtein
El algoritmo de la distancia de Levenshtein mide el grado de diferencia entre el valor clave primario y el secundario, en una escala de números enteros que comienza en 0. La escala representa el número de ediciones de caracteres individuales requerido para hacer que un valor sea idéntico a otra. Mientras mayor sea la distancia de Levenshtein entre dos valores, mayor será la diferencia entre ellos.
Distancia de Levenshtein | Significado |
---|---|
0 | Cada valor está conformado por un conjunto de caracteres idéntico, en el mismo orden. El uso de mayúsculas y minúsculas puede ser diferente. |
2 |
Se necesitan dos ediciones de caracteres individuales para que los dos valores sean idénticos. Por ejemplo: "Smith" y "Smythe"
|
3 |
Se necesitan tres ediciones de caracteres individuales para que los dos valores sean idénticos. Por ejemplo: "Hanssen" y "Jansn"
|
Distancia
Al especificar un ajuste de Distancia, está especificando la distancia de Levenshtein máxima permitida entre dos valores para que se los considere una correspondencia inexacta. Por ejemplo, si especifica 2, no se necesitan más de dos ediciones para que los valores sean idénticos.
Ajuste de la Distancia | Significado | Hanssen / Jansn |
---|---|---|
2 |
Para que se considere una correspondencia inexacta, no se deben necesitar más de dos ediciones de caracteres para que los valores sean idénticos. |
Sin correspondencia, no se incluyen en la tabla unida (Distancia de Levenshtein = 3) |
3 |
Para que se considere una correspondencia inexacta, no se deben necesitar más de tres ediciones de caracteres para que los valores sean idénticos. |
Con correspondencia, se incluyen en la tabla unida (Distancia de Levenshtein = 3) |
Si desea obtener información detallada acerca del funcionamiento de la distancia de Levenshtein, consulte la función LEVDIST( ). A diferencia de la función, el algoritmo de la distancia de Levenshtein que se utiliza en la unión de inexactos recorta automáticamente los espacios en blanco iniciales y finales, y no distingue entre mayúsculas y minúsculas.
Obtener mejores resultados
El uso de las funciones de Analytics para realizar la limpieza y la unificación de los datos de los campos clave primario y secundario puede mejorar la eficacia de la unión de inexactos. Por ejemplo, si unifica los valores como "Street", "St." y "St", o los quita por completo, puede usar ajustes inexactos más estrictos y continuar obteniendo las mismas correspondencias inexactas, pero reduciendo la cantidad de correspondencias que son falsos positivos.
Quitar los elementos genéricos
Puede usar las funciones OMIT( ) y EXCLUDE( ) para quitar los elementos genéricos, como "Corporación" o "Inc.", o caracteres como comas, puntos y signos et (&) de los valores del campo.
La eliminación de los elementos genéricos y la puntuación centra la comparación de los valores de los campos clave de la unión de inexactos únicamente en la parte de los valores en los que puede haber una diferencia significativa.
Pasos
Puede usar la correspondencia inexacta de los valores del campo clave para combinar dos tablas de Analytics en una tercera tabla.
- En el navegador, abra la tabla primaria, haga clic con el botón derecho en la tabla secundaria y seleccione Abrir como secundaria.
Los iconos de las tablas primaria y secundaria se actualizan con los números 1 y 2 para indicar su relación entre ellas .
- Seleccione Datos > Unir inexactos.
- En la ficha Principal seleccione el algoritmo de correspondencia inexacta que desea utilizar:
- Coeficiente de Dice
- Levenshtein
- Según el algoritmo que seleccionó, proporcione los ajustes para controlar el grado de inexactitud.
Coeficiente de Dice
- N-grama
- Porcentaje
Levenshtein
- Distancia
Los ajustes se explican a continuación.
- Seleccione el campo clave principal de la lista Claves primarias.
Solo puede seleccionar un campo clave primario y debe ser un campo de caracteres.
- Seleccione el campo clave secundario de la lista Claves secundarias.
Solo puede seleccionar un campo clave secundario y debe ser un campo de caracteres.
- En las listas Campos primarios y Campos secundarios, seleccione los campos que desea incluir en la tabla unida.
Nota
Debe seleccionar explícitamente los campos de clave primaria y secundaria si desea incluirlos en la tabla unida.
Consejo
Puede presionar Ctrl+clic para seleccionar varios campos no adyacentes y Mayús+clic para seleccionar varios campos adyacentes.
- En el cuadro de texto En, especifique el nombre de la nueva unida.
- (Opcional) En la ficha Más:
- Si solo desea procesar un subconjunto de registros, seleccione una de las opciones del panel Alcance.
- Si desea anexar (agregar) los resultados de salida al final de una tabla de Analytics existente, seleccione Anexar a archivo existente.
- Haga clic en Aceptar.
La nueva tabla unida se envía a la salida.
Opciones del cuadro de diálogo Unir inexactos
Las tablas a continuación proporcionan información detallada acerca de las opciones del cuadro de diálogo Unir inexactos.
Ficha Principal
Opciones: Cuadro de diálogo Unir inexactos | Descripción |
---|---|
Coeficiente de Dice |
Use el coeficiente de Dice para obtener correspondencias inexactas entre los valores clave primario y secundario.
|
Levenshtein |
Use la distancia de Levenshtein para obtener correspondencias inexactas entre los valores clave primario y secundario.
|
Tabla secundaria | Un método alternativo de seleccionar la tabla secundaria. |
Claves primarias Claves secundarias |
Especifica el campo clave común a usar para unir las dos tablas.
Pautas para campo clave:
|
Campos primarios Campos secundarios |
Especifica los campos que se incluirán en la tabla unida.
|
Utilizar la tabla de salida | Especifica si una tabla de Analytics que contiene resultados de salida se abre automáticamente al finalizar la operación |
Si |
(Opcional) Le permite crear una condición para excluir registros del procesamiento.
|
En | Especifica el nombre y la ubicación de la tabla de salida.
Independientemente del lugar en que guarde la tabla de salida, esta se agrega al proyecto abierto si ya no está en el proyecto. Si Analytics pre-completa un nombre de tabla, puede aceptar el nombre pre-completado o cambiarlo. |
Ficha Más
Opciones: Cuadro de diálogo Unir inexactos | Descripción |
---|---|
Panel de alcance | Especifica qué registros en la tabla primaria son procesados:
Nota El número de registros especificados en las opciones Primero o Siguiente hace referencia tanto al orden físico como al orden indexado de los registros de una tabla y hace caso omiso de cualquier filtrado u ordenación rápida aplicados a la vista. Sin embargo, los resultados de las operaciones analíticas respetan cualquier filtrado. Si a una vista se aplica ordenación rápida, Siguiente se comporta como Primero. |
Anexar al archivo existente | Especifica que los resultados de salida se anexan (agregan) al final de una tabla de Analytics existente. Nota Se recomienda dejar Anexar a archivo existente sin seleccionar si no está seguro de que los resultados de la salida y la tabla existente tengan una estructura de datos idéntica. Si desea más información acerca de la anexión y la estructura de datos, consulte Anexar resultados a archivos de texto y tablas de Analytics. |
Aceptar | Ejecuta la operación.
|