Вычислять попарное расстояние в партии без репликации тензора в Tensorflow?

Вы можете использовать некоторую линейную алгебру, чтобы превратить ее в матричные операционные системы. Обратите внимание, что вам нужна матрица D где a[i] – i я строка вашей исходной матрицы и

 D[i,j] = (a[i]-a[j])(a[i]-a[j])' 

Вы можете переписать это в

 D[i,j] = r[i] - 2 a[i]a[j]' + r[j] 

Где r[i] – квадратная норма i го ряда исходной матрицы.

В системе, поддерживающей стандартные правила вещания, вы можете рассматривать r как вектор-столбец и записывать D как

 D = r - 2 AA' + r' 

В TensorFlow вы можете записать это как

 A = tf.constant([[1, 1], [2, 2], [3, 3]]) r = tf.reduce_sum(A*A, 1) # turn r into column vector r = tf.reshape(r, [-1, 1]) D = r - 2*tf.matmul(A, tf.transpose(A)) + tf.transpose(r) sess = tf.Session() sess.run(D) 

результат

 array([[0, 2, 8], [2, 0, 2], [8, 2, 0]], dtype=int32) 

Использование squared_difference :

 def squared_dist(A): expanded_a = tf.expand_dims(A, 1) expanded_b = tf.expand_dims(A, 0) distances = tf.reduce_sum(tf.squared_difference(expanded_a, expanded_b), 2) return distances 

Одна вещь, которую я заметил, это то, что это решение с использованием tf.squared_difference дает мне память (OOM) для очень больших векторов, в то время как подход by @YaroslavBulatov этого не делает. Итак, я думаю, что разложение операции дает меньший объем памяти (который, как я думал, squared_difference будет лучше справляться с ним под капотом).