Линейная алгебра 3 Векторные уравнения

Векторные уравнения в линейной алгебре 3

Векторные уравнения и охват

Вступление

Добро пожаловать обратно к третьему эссе из моей непрерывной серии о основах линейной алгебры, основной математике, лежащей в основе машинного обучения. В моей предыдущей статье я рассказал о формах эшелонной матрицы. В этой статье мы рассмотрим векторы, охваты и линейные комбинации и свяжем эти новые идеи с тем, что мы уже узнали. Эта статья будет лучше служить читателям, если ее читать вместе с книгой “Линейная алгебра и ее приложения” Дэвида Лэя, Стивена Лэя и Джуди Макдональд. Рассматривайте эту серию как дополнительный источник информации.

Не стесняйтесь делиться мыслями, вопросами и критикой.

Векторы в ℝ², ℝ³ и ℝⁿ

До сих пор мы изучали матрицы, которые представляют собой массивы чисел, а что, если у нас просто есть массив (единичный) чисел? Вот они – векторы: особый вид матрицы размером m x 1, где m обозначает количество строк или элементов вектора. Напомним, что обозначение для размера матрицы – m x n, где m – количество строк, а n – количество столбцов. Вектор всегда имеет только один столбец, но может иметь любое количество строк.

Множество всех векторов с двумя элементами – это ℝ². ℝ охватывает все действительные числа, поэтому имеет смысл, что ℝ² – это двумерное пространство всех возможных точек (x, y) действительных чисел.

Векторы могут принадлежать к ℝ², ℝ³, ℝ⁴… ℝⁿ, обратите внимание, что размерность векторного пространства соответствует количеству элементов вектора.

Рано или поздно вы столкнетесь с особенным нулевым вектором (обозначается просто 0), вектором, элементы которого равны нулю. Хотя это может показаться незначительной деталью, мы позже обнаружим, что это имеет важные последствия для некоторых из самых важных идей в линейной алгебре.

Геометрическая визуализация

До сих пор матрицы и векторы описывались, разъяснялись и записывались математически, в то время как векторы в физике описываются как величина и направление. Оба определения верны; ниже приведена графическая визуализация векторов в ℝ², объединяющая оба определения вектора.

Важно помнить, что векторы в ℝ² – это упорядоченные пары, а векторы в пространствах более высокой размерности – это упорядоченные кортежи (упорядоченный список чисел). Два вектора могут иметь одинаковые числа в качестве элементов, но если порядок их элементов отличается, то векторы также отличаются, как показано на диаграмме выше.

Векторы в ℝ³ также могут быть визуализированы – мы просто добавляем третью ось, так как у нас есть дополнительный элемент. Однако за пределами ℝ³ графическое изображение векторов становится гораздо сложнее, так как трудно справиться с представлением пространств более высокой размерности.

Алгебраические свойства векторов

Для всех векторов u, v, w в заданном векторном пространстве и скаляров c и d: выполняются следующие алгебраические свойства¹:

(i) коммутативность*: u + v = v + u

(ii) ассоциативность*: (u + v) + w = w + (v + w)

(iii) аддитивная идентичность: u + 0 = 0 + u = u

(iv) аддитивная инверсия: u + (-u) = –u + u = 0

(v) дистрибутивность с векторами: c(u + v) = cu + cv

(vi) дистрибутивность со скалярами: (c + d)u = cu + du

(vii) ассоциативность со скалярами: c(du) = (cd)u

Эти свойства связаны с операциями сложения векторов и умножения на скаляр.

Для сложения двух векторов соответствующие элементы суммируются для получения суммы векторов. Это означает, что сложение векторов разных размеров неопределено. Чтобы сложить два вектора, они должны иметь одинаковое число элементов! Это условие возникает из способа выполнения операции сложения векторов.

При умножении на скаляр для заданного скаляра c и вектора u, скалярное произведение – это cu, где каждый элемент вектора u умножается на скаляр c.

Эти две операции могут использоваться вместе; и, как вы увидите в следующем разделе, они объединяются для формирования понятия, центрального в Линейной Алгебре: линейных комбинаций.

Линейные комбинации

Предположим, у нас есть векторы v₁, v₂, … vₐ в ℝⁿ, и нам даны скаляры (также известные как веса) c₁, c₂, … cₐ, которые могут быть любым вещественным числом, включая ноль. Линейная комбинация – это вектор, определенный суммой скалярных произведений, c₁v₁ + c₂v₂ + … + cₐvₐ. ²

Ранее мы исследовали понятие существования в Линейной Алгебре, где задана матрица, существует ли хотя бы одно решение? Другими словами, имеет ли матрица в приведенной/решенной форме несогласованность? Если да, то решений не существует. Если нет, то хотя бы одно решение есть. Этот фундаментальный вопрос о существовании связан с многими идеями в Линейной Алгебре, и линейные комбинации не являются исключением.

Мы говорим, что вектор b является линейной комбинацией набора векторов v₁, v₂, .. vₐₚ в Rⁿ, если существует набор весов c₁, c₂, … cₐ (решение), такой что c₁v₁ + c₂v₂ + … + cₐvₐ = b.

Чтобы определить, является ли b линейной комбинацией, мы можем использовать операции сложения векторов и умножения на скаляр для переупорядочивания нашего уравнения линейной комбинации: c₁v₁ + c₂v₂ + … + cₐvₐₚ = b в нотацию, с которой мы уже хорошо знакомы. Этот процесс переупорядочивания также помогает понять, почему определение того, является ли вектор b линейной комбинацией набора векторов, является задачей о существовании.

Приведенное выше объяснение призвано подчеркнуть, почему проблема существования и сокращения матрицы связана с линейными комбинациями и демонстрирует идею в общем смысле. Давайте рассмотрим более конкретный пример.

В приведенном примере, применив метод сокращения строк к расширенной матрице и приведя ее к упрощенному виду, мы обнаружили, что решение действительно существует!

Однако рассмотрим случай расширенной матрицы в упрощенной ступенчатой форме с строкой [0, 0, … | b], где b ≠ 0, что означает, что вектор b не может быть записан как линейная комбинация набора векторов. Другими словами, вектор b недоступен для нашего набора векторов, или (это хороший переход к предстоящему разделу) вектор b не находится в span набора векторов.

Span набора векторов

Множество всех возможных линейных комбинаций векторов v₁, v₂, … vₐ в ℝⁿ называется подмножеством ℝⁿ, охватываемым v₁, v₂, … vₐ. Span векторов v₁, v₂, … vₐ обозначается как Span{v₁, v₂, … vₐ} и представляет собой множество векторов, которые могут быть записаны в виде c₁v₁ + c₂v₂ + … + cₐvₐ.³ Другими словами, span содержит все векторы, которые могут быть записаны как линейная комбинация векторов v₁, v₂, … vₐ.

Мы можем найти span для данного набора любого количества векторов. Предположим, у нас есть набор состоящий из одного вектора, v₁. Span{v₁} будет являться множеством всех скалярных кратностей v₁, потому что в этом случае единственной операцией, которую мы можем применить, является скалярное умножение (для выполнения векторного сложения требуется как минимум два вектора). Span{v₁} содержит все векторы, достижимые от v₁.

Если мы представим span графически, то это будет прямая линия, проходящая через v₁ и начало координат, потому что с использованием только одного вектора линейные комбинации (векторные кратности) не могут изменять направление. Это дополнительно иллюстрируется на диаграмме ниже.

Рассмотрим span двух векторов в разных направлениях в ℝ², какие возможные линейные комбинации могут образовываться из этих двух векторов? Иными словами, какие векторы в ℝ² могут быть записаны в виде линейной комбинации этих двух векторов?

Для данного случая, после дальнейшего исследования, видно, что u и v охватывают всю ℝ²! Это означает, что любой вектор в ℝ² может быть записан в виде линейной комбинации u и v. В будущей статье мы рассмотрим понятие линейной независимости, которое будет использоваться для конкретного доказательства, что u и v охватывают ℝ².

Заключение

Векторы, линейные комбинации и охваты приводят нас на шаг глубже в обширную область Линейной Алгебры. Эти фундаментальные концепции помогают нам понять структуру векторных пространств и взаимоотношения между различными наборами векторов. С нашим прогрессом вы будете видеть, как эти идеи постоянно возникают, потому что они связаны с другими основными концепциями. Точно так же я надеюсь, что вы потратите некоторое время, чтобы подумать о том, как все, что мы узнали до сих пор (существование решений, ступенчатая форма) глубоко связано с этими новыми концепциями.

Краткое изложение

В этой главе мы узнали о:

  • Векторах в ℝ², ℝ³ и ℝⁿ: вектор – это специальный вид матрицы размером m x 1. Вектор может иметь любое количество элементов, но только одну колонку. Мы обнаружили, что также возможно иметь нулевой вектор, вектор, в котором все его элементы равны нулю.
  • Геометрической визуализации векторов: векторы могут быть графически представлены, что помогает понять, откуда берутся идеи о величине и направлении.
  • Алгебраические свойства векторов: следующие алгебраические свойства векторов справедливы для всех векторов и скаляров; коммутативность, ассоциативность, нулевой элемент сложения, обратный элемент сложения, дистрибутивность с векторами, дистрибутивность скалярами и ассоциативность скаляров.
  • Линейных комбинаций: линейная комбинация – это вектор, определенный как сумма скалярных кратных c₁v₁ + c₂v₂ + … + cₐvₐ. Веса c₁, c₂, … cₐ могут быть любыми скалярами, включая ноль.
  • Векторных охватов: охват векторов v₁, v₂, … vₐ обозначается Span{v₁, v₂, … vₐ} и является множеством векторов, которые могут быть записаны как c₁v₁ + c₂v₂ + … + cₐvₐ.

Примечания

¹Алгебраические свойства векторов ссылки на https://cs.brown.edu/stc/summer/94GeoTrans/94GeoTrans_17.html

²Определение линейных комбинаций ссылается на Курс линейной алгебры и ее приложений 6-е издание Дэвида С. Лэя, Стивена Р. Лэя и Джуди Дж. Макдоналда

³Определение охвата ссылается на Курс линейной алгебры и ее приложений 6-е издание Дэвида С. Лэя, Стивена Р. Лэя и Джуди Дж. Макдоналда.

*Все изображения созданы автором, если не указано иное.

*Ассоциативное свойство означает, что для операций сложения и умножения, числа могут быть группированы в любом порядке, и результат останется неизменным. Например, (5 + 2) + 3 = 5 + (2 + 3) = 10 и (5 x 2) x 3 = 5 x (2 x 3) = 30.

*Коммутативность означает, что для операций сложения и умножения, числа могут быть сложены или умножены в любом порядке, и результат останется неизменным. Например, 5 + 2 = 2 + 5 = 7 и 5 x 2 = 2 x 5 = 10.