Skip to content

Instantly share code, notes, and snippets.

Show Gist options
  • Save anonymous/74d7e1588ed84c5a4b50797570717f69 to your computer and use it in GitHub Desktop.
Save anonymous/74d7e1588ed84c5a4b50797570717f69 to your computer and use it in GitHub Desktop.
Построение дескриптивных моделей методом наименьших квадратов лекция

Построение дескриптивных моделей методом наименьших квадратов лекция


Построение дескриптивных моделей методом наименьших квадратов лекция



Метод наименьших квадратов (мнк).
Методы описания исследуемого объекта
Моделирование с Maxima


























В качестве простого примера построения модели методом наименьших квадратов рассмотрим задачу восстановления математического описания некоторого процесса по результатам эксперимента. Выборка десяти случайных пар представлена в табл. Метод наименьших квадратов заключается в том, что неизвестные искомые коэффициенты а 0 , а 1 , а 2 должны минимизировать функцию, представляющую собой сумму квадратов невязок e j:. Минимум некоторой функции, как известно, находится в точке , где все частные производные этой функции по переменным а 0 , а 1 , а 2 равны нулю. Возьмем от функции G производные по а 0 , а 1 , а Приравняв эти выражения к нулю и произведя некоторые преобразования, получим систему линейных алгебраических уравнений третьего порядка с тремя неизвестными, коэффициенты которой вычисляются по известным данным из табл. Проверим адекватность модели методом Фишера. Для этого заполним четвертый и пятый столбцы таблицы 3. Так как полученное значение F меньше критического порогового , гипотеза об адекватности модели реальному процессу принимается. Статистические методы проверки адекватности математических моделей. Если имеются или могут быть получены необходимые и достоверные экспериментальные данные, для проверки адекватности моделей можно использовать методы математической статистики. Однако, истинное значение отклика системы никогда неизвестно. Полученный в результате эксперимента отклик в силу неконтролируемого дрейфа системы, разброса характеристик ее элементов и, наконец, просто ошибок измерения представляет собой случайную величину, отличающуюся от W. Альтернативная гипотеза Н 1 состоит в том, что модель не отвечает заданным требованиям 3. При этом может быть допущена ошибка первого рода , состоящая в отказе от правильной модели принимается Н 1 , когда верна Н 0 , или ошибка второго рода , состоящая в принятии ошибочной модели принимается Н 0 , когда верна Н 1. Вероятность ошибки первого рода обозначают через a, второго рода — b. Принято называть a риском разработчика, b — риском потребителя. Разумеется, желательно минимизировать как a, так и b. Однако, при заданном объеме экспериментальной выборки уменьшение a влечет за собой увеличение b. Величина 1— b характеризует вероятность отказа от ошибочной модели , называется мощностью критерия и является мерой его эффективности. Выбор вероятностей ошибок a и b при проверке конкретной модели зависит от ответственности решений, принимаемых на основе моделирования. Например, если модель предназначена для управления двигателем летательного аппарата, необходимо в первую очередь минимизировать b, так как в данном случае принятие неверной модели, а значит, возможность ошибочных решений при управлении представляет больший вред, чем отказ от правильной модели. Это значит, что при n независимых испытаниях np значений e i должно удовлетворять условию 3. В результате случайного эксперимента для этих событий будут получены частоты n 1 и n 2: Частоты n 1 и n 2 отличаются от точных вероятностных оценок или из-за несоответствия модели действительности заданная вероятность р не соблюдается , или из-за случайных отклонений. Для оценки предположения о том, что отклонения n 1 и n 2 от соответствующих вероятностей случайны, строится функция. Необходимым условием использования критерия c 2 является многочисленность экспериментальных данных не меньше При модель должна быть отвергнута, а при экспериментальные данные не противоречат гипотезе об адекватности модели. Критерий Смирнова-Колмогорова целесообразно использовать при относительно малых выборках, когда критерий c 2 оказывается неэффективным. Критерий Фишера осуществляется путем анализа дисперсий. Если дисперсия, характеризующая ошибку эксперимента s 2 W , известна, вычисляется выборочная дисперсия S 2 e и составляется F -отношение:. Идентификация параметров математической модели силы резания токарной операции. Построим математическую модель силы резания при обработке круглой детали на токарном станке Рис. Для определения неизвестных параметров воспользуемся методом наименьших квадратов. Пусть проведено n экспериментов, результаты которых сведены в таблицу 3. Возьмем производные от функции G по и приравняем их к нулю:. Разделим обе части уравнений на —2; вынесем , a, b, g за знак суммы; перенесем члены, не зависящие от , a, b, g, в правую часть:. Получили систему линейных алгебраических уравнений четвертого порядка, коэффициентами которой являются суммы произведений логарифмов экспериментальных данных. Решив полученную систему, найдем искомые значения коэффициентов , a, b, g линейной модели 3. Для определения параметров исходной модели 3. Коэффициенты a, b, g получаются непосредственно из решения системы 3. Если в распоряжении исследователя имеются экспериментальные данные, для проверки адекватности математической модели действительности можно использовать методы математической статистики. Рассматриваемый ниже метод пригоден при изучении любых математических моделей. Однако конкретный анализ проводится на примере построенной модели силы резания при точении с помощью критерия согласия c 2 , предложенного Пирсоном. Гипотеза Н 0 формулируется как предположение о том, что отклонение e экспериментальных данных от значений, предсказанных моделью 3. Вне толерантного интервала должно оказаться 1— p n отклонений. Для ограниченной случайной выборки из n наблюдений эти события будут наблюдаться с частотой n 1 и n 2 , лишь приближенно совпадающие с соответствующими вероятностями:. Необходимо установить, можно ли объяснить эти отклонения случайными причинами в этом случае можно принять гипотезу Н 0 или же они не случайны — статистически значимы в этом случае нужно принять альтернативную гипотезу Н 1. Эту величину нужно сравнить с пороговым значением c 2 -критерия c 2 1, a при принятом уровне риска a. В этом случае принимается гипотеза Н 1. Вывод о правильности гипотезы Н 1 , вообще говоря, не требует безоговорочного отказа от проверяемой модели:. В этом случае моделью можно пользоваться, но нужно признать, что ее точность оказалась ниже, чем первоначально предполагалось. Это приводит к увеличению порогового значения c 2 1, a. Это, в свою очередь, может изменить оценку значения U. Однако нужно помнить, что при этом увеличивается риск признать правильной ошибочную модель. В противном случае опасений за точность модели не возникает, однако можно предположить, что величина толерантного интервала задана необоснованно большой. В обоих случаях нужно признать, что модель оказалась точнее, чем ожидалось. Перечислите меры, которые можно применить в случае неадекватности построенной математической модели. Выбор оптимальной эмпирической модели. Принцип наименьших квадратов позволяет найти наилучшую модель идентификации для исследуемой экспериментальной выборки с заданным уравнением регрессии вида. Если имеются достаточно веские основания для выбора формы этого уравнения, никаких проблем не возникает. Однако, в большинстве случаев конкретная форма модели заранее неизвестна и может, вообще говоря, быть различной. На самом деле это не так. При переходе к полиномам более высокой степени можно, конечно, получить лучшее согласие регрессионной кривой с экспериментальными данными. Дело в том, что экспериментальные данные представляют собой случайные величины и содержат лишь ограниченную информацию о характере W x. Увеличение степени полинома целесообразно лишь до тех пор, пока из экспериментальной выборки извлекается надежная информация. Таким образом, возникает проблема выбора формы модели. Метод представляется мало пригодным для анализа сложных систем, так как отличается высокой трудоемкостью. При этом для каждого из членов модели вычисляется величина критерия Фишера F. Общим недостатком всех рассмотренных ранее методов является использование для оценки модели того же экспериментального материала, на основе которого эта модель построена. При этом подходе все экспериментальные данные разбиваются на две части: Первая из них используется для определения коэффициентов регрессии модели, вторая — для оценки модели в целом. Проверочная последовательность должна включать в себя хотя бы одну точку. В ряде случаев в качестве критерия регуляризации удобно использовать критерий несмещенности , обеспечивающий наименьшее изменение модели при изменении состава обучающей последовательности. В результате их использования определяются две независимые, одинаковые по форме модели и. Оптимальная модель ищется по всем точкам выборки:. Критерий регуляризации всегда имеет четко выраженный минимум, что обеспечивает объективное выделение модели оптимальной сложности. Использование критерия Фишера для проверки значимости высших степеней математической модели. Критерий Фишера может быть использован для сравнения точности двух или нескольких конкурирующих моделей. Пусть рассматриваются две модели изучаемой системы w 1 , w 2 , приводящие к двум различным множествам значений функции отклика: Будем считать, что модель w 2 более подробна и предположительно более точна, чем w 1. Для каждой из моделей может быть составлена остаточная сумма квадратов:. Для сравнения моделей подсчитывается так называемая дополнительная сумма квадратов SS , связанная с дополнительными данными, введенными в модель w 2 , и характеризующаяся внесенными в нее уточнениями; а также число степеней свободы этой дополнительной суммы квадратов:. Если известна дисперсия экспериментальных данных s 2 W , то роль дополнительной информации, содержащейся в модели w 2 , оценивается путем сравнения F -отношения с пороговым критическим значением критерия Фишера:. Если дисперсия экспериментальных данных s 2 W неизвестна, сравнение проводится с оценкой дисперсии для упрощенной модели:. В противном случае уточнения , вносимые моделью w 2 , неразличимы на фоне шума ; с точки зрения точности модели равноценны, и предпочтение должно быть отдано более простой модели w 1. В частном случае полиномиальных моделей, представляющих собой конечные отрезки бесконечных рядов, этим методом можно проверить целесообразность включения в модель членов рада с более высокими степенями. Рассмотрим пример, приведенный в п. В связи с тем, что полученное из расчета значение критерия Фишера меньше критического, можно считать, что член третьего порядка не добавляет существенной информации и, следовательно, он является незначимым. Переход к модели третьего порядка нецелесообразен. Лекция 11 Глава 4. Математические модели теории принятия решений. Главная О нас Обратная связь. Автоматизация Автостроение Антропология Археология Архитектура Астрономия Предпринимательство Биология Биотехнология Ботаника Бухгалтерский учет Генетика География Геология Государство Демография Деревообработка Журналистика и СМИ Зоология Изобретательство Иностранные языки Информатика Информационные системы Искусство История Кинематография Кораблестроение Кулинария Культура Лексикология Литература Логика Маркетинг Математика Математический анализ Материаловедение Машиностроение Медицина Менеджмент Металлургия Метрология Механика ОБЖ Охрана Труда Педагогика Политология Правоотношение Программирование Производство Промышленность Психология Радио Разное Социология Спорт Статистика Строительство Теология Технологии Туризм Усадьба Физика Физиология Философия Финансы Химия Черчение Экология Экономика Электротехника. Для определения частных производных, распишем функцию G через ее предполагаемый вид: Возьмем от функции G производные по а 0 , а 1 , а 2: Система поиска информации Мобильная версия сайта Удобная навигация Нет шокирующей рекламы.


Использование метода наименьших квадратов


Представим, что выполняя лабораторную работу по физике, например, изучая зависимость некоторой физической величины Y от физической величины X, вы получили следующие экспериментальные данные. Для того чтобы наглядно представить зависимость Y от X, нанесли экспериментальные точки на координатную плоскость и Предположим, что функция Y Х линейная — , но конкретный вид её не известен. Но если вы выбрали сознательно или наугад предполагаемый вид функций, то следующим шагом нужно подобрать параметры а, b так, чтобы функция располагалась как можно ближе к экспериментальным точкам. Ответить на этот вопрос — значит предложить метод вычисления параметров функции. Такой метод был предложен в XVIII веке немецким математиком К. Он называется методом наименьших квадратов МНК. Может возникнуть вопрос, а именно почему сумма квадратов? Дело в том, что, во-первых, квадрат любого числа всегда неотрицателен, и, следовательно, сумма квадратов всегда не отрицательна, то есть ограничена снизу, и, следовательно, у нее есть минимум. Ведь иметь в двух точках отклонение в 5 единиц, лучше, чем в первой точке иметь нулевое отклонение, зато во второй точке иметь отклонение Сумма отклонений в обоих случаях будет одинаковой, а вот сумма квадратов отклонений в первом случае будет меньше. Выполнив элементарные преобразования, получим систему двух линейных уравнений относительно а и b:. Данные рисунки получены с помощью MS Excel. Полученный график называется трендом. Английское слово trend можно перевести как общее направление, или тенденция. Кстати, обычно b называют коэффициентом регрессии. Коэффициент регрессии показывает, на сколько единиц в среднем изменяется переменная Y при увеличении переменной Х на одну единицу. Экспериментальные данные изобразим в виде точек на координатной плоскости. По виду ломанной можно предположить наличие линейной зависимости между двумя рассматриваемыми переменными, которая графически выражается тем точнее, чем больше объем выборки Для построения линии тренда составим расчетную таблицу:. Таким образом, уравнение тренда имеет вид. A Визуализационная методика формирования будущей реальности. B Несколько примеров методик формирующих будущую реальность. C Информационная перегрузка сознания — основная методика поражения людей, применяемая в ДИО. E всеобщий диалектический метод. Что следует понимать под методом обучения? МЕТОДИКА ИХ ИЗМЕРЕНИЯ II. Метод подъема жидкости в капиллярах II. Методические рекомендации по самостоятельной работе. Астрономия Биология География Другие языки Интернет Информатика История Культура Литература Логика Математика Медицина Механика Охрана труда Педагогика Политика Право Психология Религия Риторика Социология Спорт Строительство Технология Транспорт Физика Философия Финансы Химия Экология Экономика Электроника. Корреляционный и регрессионный анализ.


Велосипед из памперсов своими руками мастер класс
Структура органов роспотребнадзора
5 звезд коллаж пенза расписание фильмов
Орел московское шоссе 119 карта
Первая арабо израильская война причины
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment