Difference between revisions of "New page"

From Research management course
Jump to: navigation, search
(Created page with "New page")
 
Line 1: Line 1:
 
New page
 
New page
 +
<!-- {{tip| После 18 сентября 2018 года материал будет перемещен на страницу [[Автоматизация научных исследований (курс лекций, В.В. Стрижов)]], английский вариант страницы [[Automation of Scientific Research (lectures by V.V. Strijov)]]}} -->
 +
 +
<!-- {{tip|''Весна 2019: уточняется'' Анкеты, домашние задания и материалы по курсу '''Автоматизация научных исследований в машинном обучении'''
 +
* Для объявлений: [http://t.me/AutomationML Телеграм-канал @AutomationML]
 +
* Открытый дублирующий канал: [https://twitter.com/Research_in_ML Твиттер @Research_in_ML]
 +
* Вопросы по доступу к ресурсам и по организации MLAlgorithms@gmail.com
 +
* Для общения и обсуждения вопросов по курсу: [https://t.me/joinchat/Ak0SzkfYN_boA3eRtfPKvg Телеграм-чат @Strijov_course_chat]
 +
* [[Автоматизация научных исследований в машинном обучении (практика, В.В. Стрижов)#Расписание|'''Расписание''']], сводная таблица [[Автоматизация научных исследований в машинном обучении (практика, В.В. Стрижов)#Проекты: результаты|'''Проекты: результаты''']] и список задач-проектов
 +
}} -->
 +
 +
{{TOCright}}
 +
 +
<!-- '''Автоматизация научных исследований''' — текущее название данного практикума для студентов третьего курса бакалавриата кафедры [[Интеллектуальные системы (кафедра МФТИ)]] [[ФУПМ]] [[МФТИ]], в весеннем семестре. -->
 +
 +
== Введение ==
 +
'''Моя первая научная публикация''' — практические занятия, посвященные изучению методов научной работы и выполнения исследовательских проектов в области машинного обучения и анализа данных. Задачей студентов является исследование свойств моделей и алгоритмов прогнозирования. Целью работы является написание научной статьи с элементами новизны с последующей подачей в рецензируемый научный журнал. Студенты изучают методы планирования исследований, технику написания научных статей и проведения вычислительных экспериментов.<!--, а также сопутствующие этому процессу технологии — язык разметки научных текстов LaTeX, формат представления библиографической записи BibTeX, язык программирования высокого уровня m-code.-->
 +
 +
Работа включает следующие этапы: сбор и анализ литературы, математическая постановка задачи, описание метода решения задачи и исследование его свойств, проведение вычислительного эксперимента. Каждому студенту предлагается персональная тема, по которой он анализирует публикации отечественных и зарубежных исследователей за последние годы, ставит задачу и делает доклад для группы о полученных результатах. Далее выполняется математическое описание метода, делается промежуточный доклад о состоянии работ. Последним шагом работы становится вычислительный эксперимент, иллюстрирующий свойства метода и использующий синтетические или реальные данные. Каждая статья рецензируется, работы синхронизируются на сайте [[SourceForge|SourceForge.org]], проект «[[MLAlgorithms]]» или на сайте [GitHub.org GitHub], организация [https://github.com/Intelligent-Systems-Phystech Intelligent-Systems-Phystech].
 +
 +
'''Цели:''' ''aбстрактная''&nbsp;— научиться точно, ясно, красиво излагать свои и чужие идеи; ''конкретная''&nbsp;— написать научную статью, которая была бы принята другими исследователями, работающими в нашей области; сделать доклад.
 +
''' Результат: ''' научная статья, поданная в рецензируемый журнал из списка [[ВАК]].
 +
 +
Элементы цикла и полезные страницы
 +
* Короткий адрес этой страницы: [http://bit.ly/Strijov_M1 bit.ly/Strijov_M1]
 +
* [https://www.youtube.com/channel/UC90B3Y_FbBRrRQk5TCiKgSA Видео докладов по курсу на канале Machine Learning на Youtube]
 +
* [[Machine Learning and Data Analysis (Strijov's practice)]]
 +
* [http://svn.code.sf.net/p/mvr/code/lectures/MLEducation/Strijov2014MLCourseShort.pdf?format=raw Описание курса]
 +
* [[Задачи пробного программирования | Список задач для пробного программирования]]
 +
* [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Эксперты и консультанты|Эксперты и консультанты]]
 +
* [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Подготовка статьи к публикации на английском языке|Подготовка статьи к публикации на английском языке]] (материал ожидается)
 +
* [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Коллекция реальных данных|Коллекция реальных данных]]
 +
* [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Примеры|Учебные примеры]]
 +
* [[Временной ряд (библиотека примеров)]]
 +
* [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Черновые обзоры| Черновые обзоры Linkreview]]
 +
* [http://www.ccas.ru/jmlda/bib_refs Библиография всех завершенных проектов (на декабрь 2015)]
 +
* [http://www.ccas.ru/jmlda/conf_talks Список докладов на конференциях (2015)]
 +
* [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Basic schedule | Расписание курса на английском языке]]
 +
* [https://docs.google.com/document/d/11pK3vKfuo4Nhd7N5i-iFocq0eYlraDWbZ9FyRjKConA/pub План лекций]
 +
* [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Семинар | Семинар]]
 +
 +
Prerequisites
 +
* [http://www.maths.sci.ku.ac.th/suchai/417167/thomas.pdf Thomas' Calculus]
 +
* [Graphs]
 +
* [Algebra]
 +
 +
== Course-related materials in English ==
 +
* Brief description of the course: goals, structure and grading policy [http://svn.code.sf.net/p/mvr/code/lectures/MLEducation/Strijov2014MLCourseShort_eng.pdf?format=raw CourseShort.pdf]
 +
* Slides in PDF with course overview (goals, syllabus, summary of 2009-2014 results) [http://svn.code.sf.net/p/mvr/code/lectures//MLEducation/Strijov2015MLCourseSlides.pdf?format=raw CourseSlides.pdf]
 +
* [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Basic schedule | Basic schedule]] with the list of tasks to complete
 +
* The second term of the course [[Machine Learning and Data Analysis (Strijov's practice)/4th year, fall]]. Report on the course results, Fall 2013 [http://svn.code.sf.net/p/mvr/code/lectures/MLEducation/Strijov2013Fall-MLDA.pdf?format=raw Report2013Fall.pdf]
 +
* Report presentation templates in  [http://svn.code.sf.net/p/mlalgorithms/code/Group074/Kuznetsov2013SSAForecasting/doc/Ivkin2013PresentationSample.pdf?format=raw pdf], [http://svn.code.sf.net/p/mlalgorithms/code/Group074/Kuznetsov2013SSAForecasting/doc/Ivkin2013PresentationSample.tex?format=raw tex]
 +
* Lists of recommended journals on Machine Learning and Data Analysis:
 +
** High impact factor [http://svn.code.sf.net/p/mvr/code/lectures/4thYear/Lecture1/2_High_IF_ScientificJournals.pdf High_IF_ScientificJournals.pdf]
 +
** Low impact factor [http://svn.code.sf.net/p/mvr/code/lectures/4thYear/Lecture1/3_Low_IF_Journals.pdf Low_IF_ScientificJournals.pdf]
 +
* On reviewing/resubmitting/correcting the paper:
 +
** Examples of feedback from reviewers: [http://svn.code.sf.net/p/mvr/code/lectures/4thYear/Lecture1/r1_Reviewer_PCA_NN.pdf Review1.pdf], [http://svn.code.sf.net/p/mvr/code/lectures/4thYear/Lecture1/r2_Reviewer_Belsley.pdf Review2.pdf], [http://svn.code.sf.net/p/mvr/code/lectures/4thYear/Lecture1/r3_Review_Ranking.pdf Review3.pdf]
 +
** Sample responses [http://svn.code.sf.net/p/mvr/code/lectures/4thYear/Lecture1/r4_Reviewer_Gait.pdf Response1.pdf], [http://svn.code.sf.net/p/mvr/code/lectures/4thYear/Lecture1/r5_Reviewer_Report_on_the_manuscript_correction.pdf Response2.pdf]
 +
** Correction sample [http://svn.code.sf.net/p/mvr/code/lectures/4thYear/Lecture1/r6_CorrectionSample.pdf CorrectedPaper.pdf]
 +
 +
== Задачи ==
 +
{|class="wikitable"
 +
|-
 +
! Ссылка на страницу курса
 +
! Описание
 +
|-
 +
| [[Моя первая научная статья (практика, В.В. Стрижов)/Группы 774, 794, весна 2020| Группы 774, 794, весна 2020]]
 +
| '''Моя первая научная статья, участвуют студенты, консультанты, эксперты'''
 +
|-
 +
| [[Машинное обучение (практика, В.В. Стрижов)/ФУПМ, весна 2020| ФУПМ, весна 2020]]
 +
| Машинное обучение, семинары
 +
|-
 +
| [[Математические методы прогнозирования (практика, В.В. Стрижов)/Группа 674, весна 2020| Группа 674, весна 2020]]
 +
| Математические методы прогнозирования
 +
|-
 +
| [[Автоматизация научных исследований в машинном обучении (практика, В.В. Стрижов)/ФУПМ, осень 2019 | ФУПМ, осень 2019]]
 +
| Машинное обучение, семинары
 +
|-
 +
| [[Математические методы прогнозирования (практика, В.В. Стрижов)/Группа 574, осень 2019 | Группа 574, осень 2019]]
 +
| Выбор моделей и мультимоделирование в машинном обучении, семинары
 +
|-
 +
| [[Выбор моделей в машинном обучении (теория и практика, А.А. Адуенко, В.В. Стрижов)/Группа 674, осень 2019 | Группа 674, осень 2019]]
 +
| Баейсовский выбор моделей, лекции и практика
 +
|-
 +
| [[Автоматизация  научных исследований в машинном обучении (практика, В.В. Стрижов)/Группа 674, весна 2019 | Группа 674, весна 2019]]
 +
| '''Моя первая научная публикация, участвуют студенты, консультанты, эксперты'''
 +
|-
 +
| [[Автоматизация  научных исследований в машинном обучении (практика, В.В. Стрижов)/Группа 694, весна 2019 | Группа 694, весна 2019]]
 +
| '''Моя первая научная публикация, участвуют студенты, консультанты, эксперты'''
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 574, весна 2019 | Группа 574, весна 2019]]
 +
| Математические методы прогнозирования, разбор фундаментальных понятий в современных задачах машинного обучения
 +
|-
 +
| [[Автоматизация  научных исследований в машинном обучении (практика, В.В. Стрижов) | ФУПМ, ФРТК, осень 2018]]
 +
| '''Моя первая научная публикация, участвуют студенты, консультанты, эксперты'''
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 574, осень 2018 | Группа 574, осень 2018]]
 +
| Математические методы прогнозирования, эссе с постановками задач
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 474, осень 2018 | Группа 474, осень 2018]]
 +
| Байесовский выбор моделей машинного обучения, Александр Александрович Адуенко
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 574, весна 2018 | Группа 574, весна 2018]]
 +
| '''Моя первая публикация в журнале ВАК, участвуют эксперты, индивидуальные консультанты, студенты'''
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 594, весна 2018 | Группа 594, весна 2018]]
 +
| '''Моя первая публикация в журнале ВАК, участвуют эксперты, индивидуальные консультанты, студенты'''
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 474, весна 2018 | Группа 474, весна 2018]]
 +
| Постановка задач машинного обучения, эссе
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 474, осень 2017 | Группа 474, осень 2017]]
 +
| Построение эксплуатируемых моделей
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 274, осень 2017 | Группа 274, осень 2017]]
 +
| Лекции на актуальные темы машинного обучения
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 474, весна 2017 | Группа 474, весна 2017]]
 +
| '''Моя первая публикация в журнале ВАК, участвуют эксперты, индивидуальные консультанты, студенты'''
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 374, весна 2017 | Группа 374, весна 2017]]
 +
| Постановка задач машинного обучения, эссе
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 374, осень 2016 | Группа 374, осень 2016]]
 +
| Построение эксплуатируемых моделей
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 274, осень 2016 | Группа 274, осень 2016]]
 +
| Структурное обучение: порождение и выбор моделей
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 174, осень 2016 | Группа 174, осень 2016]]
 +
| Лекции на актуальные темы машинного обучения
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 374, весна 2016 | Группа 374, весна 2016]]
 +
| '''Моя первая публикация в журнале ВАК, участвуют эксперты, индивидуальные консультанты, студенты'''
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа YАД, весна 2016 | Группа YАД, весна 2016]]
 +
| '''Моя первая публикация в журнале ВАК, участвуют эксперты, индивидуальные консультанты, студенты'''
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 274, весна 2016 | Группа 274, весна 2016]]
 +
| Построение моделей в машинном обучении
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 274, осень 2015 | Группа 274, осень 2015]]
 +
| Построение эксплуатируемых моделей
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 074, осень 2015 | Группа 074, осень 2015]]
 +
| Лекции на актуальные темы машинного обучения
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 274, весна 2015 | Группа 274, весна 2015]]
 +
| '''Моя первая публикация в журнале ВАК, участвуют эксперты, индивидуальные консультанты, студенты'''
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа YАД, весна 2015 | Группа YАД, весна 2015]]
 +
| '''Моя первая публикация в журнале ВАК, участвуют эксперты, индивидуальные консультанты, студенты'''
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 174, весна 2015 | Группа 174, весна 2015]]
 +
| Планирование научных исследований
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 174, осень 2014 | Группа 174, осень 2014]]
 +
| Построение эксплуатируемых моделей, задачи из индустриальных и академических источников
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 974, осень 2014 | Группа 974, осень 2014]]
 +
| Лекции на актуальные темы машинного обучения, эссе, практика на языке Mathematica
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 174, весна 2014 | Группа 174, весна 2014]]
 +
| '''Моя первая публикация в журнале ВАК. Участвуют эксперты, индивидуальные консультанты, студенты'''
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 074, весна 2014 | Группа 074, весна 2014]]
 +
|Эссе: краткие постановки задач и анализ
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 974, весна 2014 | Группа 974, весна 2014]]
 +
| Курс "Программная инженерия", лектор Л.Е. Карпов
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 274, весна 2014 | Группа 274, весна 2014]]
 +
| Подготовка к собеседованию студентов, поступающих на Кафедру интеллектуальных систем
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 074, осень 2013 | Группа 074, осень 2013]]
 +
| Построение эксплуатируемых моделей и проведение вычислительного эксперимента
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 874, осень 2013 | Группа 874, осень 2013]]
 +
| Лекции на актуальные темы машинного обучения, эссе, практика
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 074, весна 2013 | Группа 074, весна 2013]]
 +
| '''Моя первая публикация с кросс-рецензированием'''
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 974, весна 2013 | Группа 974, весна 2013]]
 +
| Технический отчет с учетом формальных требований к дипломной работе
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 974, осень 2012 | Группа 974, осень 2012]]
 +
| '''Тематическое моделирование: публикация в журнале ВАК'''
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 774, осень 2012 | Группа 774, осень 2012]]
 +
| Лекции на актуальные темы машинного обучения, эссе, практика
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 974, весна 2012 | Группа 974, весна 2012]]
 +
| '''Моя первая публикация с кросс-рецензированием'''
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 874, весна 2012 | Группа 874, весна 2012]]
 +
| Публикация в журнал JMLDA с кросс-рецензированием  и четырьмя докладами
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 674, осень 2011 | Группа 674, осень 2011]]
 +
| Трехкомпонентные расширенные эссе. Впоследствии работы были опубликованы
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 874, осень 2011 | Группа 874, осень 2011]]
 +
| '''Публикация в журнале JMLDA'''
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 874, весна 2011 | Группа 874, весна 2011]]
 +
| '''Моя первая публикация в журнале JMLDA'''
 +
|-
 +
| [[Руководство исследовательскими проектами (практика, В.В. Стрижов) | Группа 774, весна 2011]]
 +
| Руководство исследовательскими проектами: каждый участник одновременно является руководителем и исполнителем
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 574, осень 2010 | Группа 574, осень 2010]]
 +
| Пишем статью с кодом на machinelearning.ru
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 774, осень 2010 | Группа 774, осень 2010]]
 +
| Решение прикладных задач с отчетом в виде статьи на machinelearning.ru
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 774, весна 2010 | Группа 774, весна 2010]]
 +
| Примеры использования классических методов машинного обучения в виде статьи на machinelearning.ru
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 674, весна 2010 | Группа 674, весна 2010]]
 +
| Сравнение и анализ ПО для анализа данных в виде презентации
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 674, осень 2009 | Группа 674, осень 2009]]
 +
| Решение прикладных задач с отчетом в виде статьи на machinelearning.ru
 +
|-
 +
| [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 674, весна 2009 | Группа 674, весна 2009]]
 +
| Примеры использования классических методов машинного обучения в виде статьи на machinelearning.ru
 +
|-
 +
| [[Прикладной регрессионный анализ (курс лекций, B.В. Стрижов)/Группа 474, осень 2009 | Группа 474, осень 2009]]
 +
| Библиотеки алгоритмов анализа данных на сайте SF.net
 +
|-
 +
| [[Прикладной регрессионный анализ (курс лекций, B.В. Стрижов)/Группа 374, осень 2008 | Группа 374, осень 2008]]
 +
| Четыре практических задания
 +
|-
 +
| [[Прикладной регрессионный анализ (курс лекций, B.В. Стрижов)/Группа 274, осень 2007 | Группа 274, осень 2007]]
 +
| Пять практических заданий
 +
|-
 +
| [[Прикладной регрессионный анализ (курс лекций, B.В. Стрижов)/Группа 174, осень 2006 | Группа 175, осень 2006]]
 +
| Упражнения в продолжение лекций
 +
|-
 +
|}
 +
 +
<!-- == Требования к студентам ==
 +
'''Базовые'''
 +
* Предполагается, что студенты прошли следующие курсы: Математический анализ, Аналитическия геометрия, Дискретный анализ, Алгебра логики, комбинаторика, теория графов, Основы высшей алгебры и теории кодирования, Теория формальных систем и алгоритмов, Теория функций комплексного переменного, Функциональный анализ, Теория вероятностей, Случайные процессы, Математическая статистика, Методы оптимизации, Прикладная статистика. [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Рекомендуемые базовые и дополнительные учебники| Список рекомендуемой литературы по курсам.]]
 +
 +
'''Специальные'''
 +
* Владение материалом [http://shad.yandex.ru/lectures/machine_learning.xml курса лекций "Машинное обучение" К.В.&nbsp;Воронцова].
 +
-->
 +
 +
== План работы ==
 +
# Найти и описать данные. Составить список литературы, собрать публикации в bib-файл. Сделать заголовок статьи: название, аннотация.
 +
# Написать введение: обзор методов решения задачи, описание предлагаемого подхода в целом. Сделать обзор литературы.
 +
# Поставить задачу, описать новизну подхода, сделать черновик решения задачи.
 +
# Визуализировать данные, описать полученные рисунки. 
 +
# Поставить вычислительный эксперимент, получить первые базовые результаты.
 +
# Описать предлагаемый подход в деталях.
 +
# Завершить вычислительный эксперимент.
 +
# Описать результаты вычислительного эксперимента.
 +
# Критически сравнить результаты, проанализировать метод.
 +
# Скорректировать статью, последовательность изложения с учетом замечаний рецензента.
 +
# Скорректировать теоретическую части статьи.
 +
# Скорректировать согласованность статьи. Результатом должна являться рукопись, доступная для понимания.
 +
# Подготовить материалы вычислительного эксперимента к публикации. Отделить код от автора.
 +
# Выбрать журнал, подать статью в журнал.
 +
# Сделать доклад для группы и на научной конференции.
 +
 +
* [http://jmlda.org/papers/doc/article-processing.pdf Процедура подачи рукописи в журнал и её публикации.]
 +
 +
== Роли ==
 +
'''Студент''' хочет научиться ставить задачи формально, находить нужную литературу, порождать новые и актуальные идеи и решения задач, доносить свои идеи до коллег.
 +
 +
'''Консультант, руководитель''' помогает студенту в пользовании инструментами, отвечает на вопросы по специальности, консультирует выполнение работ, оперативно реагирует на проблемы, проверяет (в среду) результаты, ставит оценки.
 +
Предполагается, что консультант сам пишет работу-спутник по этой теме. В конце работы могут быть объединены или выполнены и опубликованы параллельно.
 +
По возможности, рекомендуется организовать правки текста студента с целью улучшить стиль изложения таким образом, чтобы студент вносил правки самостоятельно. Возможно, при очной встрече или по скайпу. 
 +
 +
'''Эксперт''': поставщик задачи, владелец данных, либо тот, кто гарантирует новизну и актуальность работы.
 +
 +
== Содержание отчета о курсе ==
 +
Отчет состоит из следующих материалов:
 +
# научная статья,
 +
# исходный код алгоритма,
 +
# рецензия на работу,
 +
# доклад, видео и слайды презентации.
 +
 +
== Консультации  и оценивание ==
 +
# Работы сдаются в течение недели.
 +
# Желательна итеративная сдача работ, начинать показ лучше в выходные.
 +
# Дедлайн последней версии работы: среда 6:00am.
 +
<!-- # В отчет будет добавлен пункт об учете времени, затраченном на выполнение проекта по неделям.-->
 +
 +
* Каждый этап работ + 1 балл по системе (А--, А-, А, А+, А++),
 +
* Недельное опоздание дает - =1/4 балла.
 +
* Несделанная работа - 0.
 +
* Мотивированный перенос работы отменен.
 +
 +
== Домашние задания ==
 +
''Замечание для консультантов'': нижеперечисленные пункты Домашних заданий являются критериями оценки качества работы.
 +
=== Домашнее задание 1: инструменты ===
 +
# '''Верстка'''. Поставить систему верстки TeX: [http://miktex.org MikTeX] для Windows, [http://www.tug.org/texlive/ TeX Live] для Linux и Mac OS или зарегистрироваться на [https://v2.overleaf.com/ V2 OverLeaf  ShareLaTeX].
 +
# Поставить текстовый редактор, например [http://www.texniccenter.org/ TeXnic Center] или его вариант [http://www.winedt.com/ WinEdt] для Windows, [http://www.tug.org/texworks/ TeXworks] для Linux.
 +
#* Прочитать про [[LaTeX|LaTeX на MachineLearning]].
 +
#* Из полезного: [https://en.wikibooks.org/wiki/LaTeX Wikibooks LaTeX], [[Media:Voron05latex.pdf|''К.В.Воронцов.'' LaTeX2e в примерах]].
 +
<!--#* Прочитать статью про [http://ru.wikipedia.org/wiki/LaTeX LaTeX].-->
 +
#* Прочитать основные главы ''Львовский С. М.'' [http://www.mccme.ru/free-books/llang/newllang.pdf Набор и верстка в системе LaTeX].
 +
<!-- # При необходимости, настроить русский язык (Start->Programs->MikTeX 2.9->Maitenance->Setteings->Languages->Russian->General->Refresh/Update).-->
 +
# Загрузить [[Media:jmlda-guides.zip‎‎|шаблон статьи, ZIP]] и скомпилировать.
 +
# Прочитать про [http://en.wikipedia.org/wiki/Bibtex BibTeX].
 +
#* [http://liinwww.ira.uka.de/csbib?strijov%20nonlinear Пример библиографической базы].
 +
<!-- #* [http://liinwww.ira.uka.de/cgi-bin/bibshow?e=Njtd0ECMQ03121/fyqboefe%7d81352582&r=bibtex&mode=intra Пример библиографической записи]. -->
 +
#* [https://docs.google.com/document/d/10JgJMieX13R5vlrCfJPrMqU9Rsd4c4JzaGytU8rWFE4/edit?usp=sharing Пример файла-черновика формата LinkReview].
 +
#* [http://en.wikipedia.org/wiki/List_of_academic_databases_and_search_engines Список баз и поисковых машин].
 +
#* [https://en.wikipedia.org/wiki/List_of_datasets_for_machine_learning_research Список источников данных для машинного обучения].
 +
# Поставить библиографическую систему [http://jabref.sourceforge.net/ JabRef] (для тех, кто пишет научную статью).
 +
# '''Обмен информацией'''. Зарегистрироваться в репозитории открытого кода [https://github.com/ GitHub].
 +
#* Важно: адрес и логин должен иметь вид Name.Surname или Name-Surname (зависит от соглашений системы).
 +
#* Вводные [[Media:MMP_Praktikum317_2013s_VCS.pdf|слайды по Version Control System]].
 +
#* Основная информация о [https://guides.github.com/ GitHub].
 +
#* Первые шаги в [https://guides.github.com/activities/hello-world/ GitHub].
 +
# Скачать программу-оболочку для синхронизации кода: [https://desktop.github.com/ Desktop.GitHub], посмотреть как использовать командную строку для синхронизации.
 +
#  Зарегистрироваться на сайте [http://www.machinelearning.ru/ MachineLearning.ru]. Для этого послать логин координатору (по умолчанию это староста группы) или по адресу mlalgorithms@gmail.com.
 +
# Для тех, кто пишет постановку задачи (эссе) внутри ноутбука [https://jupyter-notebook.readthedocs.io/en/stable/examples/Notebook/Typesetting%20Equations.html пример] на MathJax.
 +
#* Создать личную страницу [[Участник:Anastasiya|пример]].
 +
<!-- # Поставить ссылку на личную страницу со своей фамилии в таблице на странице группы.-->
 +
# Поставить [https://hangouts.google.com/ Hangouts], Skype, [[Скайп (Skype)|прочитать соглашение]].
 +
<!-- # Зарегистрироваться на [[SourceForge|сайте-репозитории]] открытого кода [http://sourceforge.net/ SourceForge.net], послать логин координатору (по умолчанию это староста группы).
 +
# Скачать программу-оболочку для синхронизации кода: [http://tortoisesvn.net/downloads.html TortoiseSVN] для Windows, [http://rabbitvcs.org/ RabbitVCS] для Linux.
 +
# Прочитать статью про [[SourceForge]], загрузить MLAlgorithms: [https://sourceforge.net/projects/mlalgorithms/ страница проекта], [https://svn.code.sf.net/p/mlalgorithms/code репозиторий]. -->
 +
# '''Программирование'''. Поставить Python [https://anaconda.org/anaconda/python Anakonda], [https://www.jetbrains.com/pycharm/ PyCharm] (вариант [https://code.visualstudio.com/ Visual Studio]), ноутбук онлайн [https://colab.research.google.com/notebooks/welcome.ipynb#recent=true Google.Colab].
 +
#* Разработка в области ML: Pytorch
 +
#* Стилевое оформление: Codestyle pep8
 +
# '''Дополнительно.''' В качестве альтернативных языков программирования поставить [[Matlab]] (вариант [http://www.gnu.org/software/octave/ Octave]), [https://www.r-project.org/ R-project], [https://www.wolframcloud.com/ Wofram Mathematica].
 +
#* Прочитать статью [[Matlab|Введение в Матлаб]].
 +
#* Прочитать [[Документирование функций Matlab|Документирование функций Matlab, соглашение об именах переменных и создание отчетов о вычислительных экспериментах]].
 +
#* Прочитать [[Media: MatlabStyle1p5.pdf|Matlab Programming Style Guidelines]].
 +
# '''Дополнительно.''' Начать читать книгу [http://www.math.nsc.ru/LBRT/g2/english/ssk/r-e.pdf Кутателадзе С. С. Советы эпизодическому переводчику] и книгу [http://www.ega-math.narod.ru/Quant/ABS.htm Сосинский А. Б. Как написать математическую статью по-английски].
 +
 +
'''Материалы по домашнему заданию'''
 +
* Для объявлений: Телеграм-канал [http://t.me/AutomationML AutomationML]
 +
* Вопросы можно задать по email:mlalgorithms@gmail.com
 +
* [https://github.com/Strijov/Strijov2018-1AutomationOfResearch/raw/master/Strijov2018_1AutomationOfResearch.pdf  Слайды первой лекции].
 +
* [http://svn.code.sf.net/p/mvr/code/lectures/MLEducation/Strijov2014MLCourseShort.pdf?format=raw Краткое описание курса].
 +
* Анкета с вопросами по '''[https://goo.gl/forms/jPbh92DOfTrwpyTF3 Домашнему заданию 1]'''.
 +
 +
'''Литература для догоняющих'''
 +
* [https://mml-book.github.io/book/mml-book.pdf Mathematics for Machine learning by Marc Peter Deisenroth, A. Aldo Faisal, and Cheng Soon Ong]
 +
* [https://klassfeldtheorie.files.wordpress.com/2018/10/mathematische-methoden-310117.pdf Mathematics for Physicists: Introductory Concepts and Methods by Alexander Altland & Jan von Delf]
 +
* [https://unglueit-files.s3.amazonaws.com/ebf/617027d14a3046998f54b31503ab7bca.pdf Python notes for professionals by GoalKicker.com Free Programming Books.]
 +
* [http://www.1variant.ru/content/uchebniki/matematika/650.pdf Лагутин М.Б. Наглядная математическая статистика, М.: Бином, 2009.] См. также [http://files.lbz.ru/pdf/cC2125-4-ch.pdf вырезку].
 +
* [http://users.isr.ist.utl.pt/~wurmd/Livros/school/Bishop%20-%20Pattern%20Recognition%20And%20Machine%20Learning%20-%20Springer%20%202006.pdf Bishop C.P. Pattern recognition and machine learning, Berlin: Springer, 2008.]
 +
* [http://www.inference.org.uk/itprnn/book.pdf MackKay D. Information Theory, Pattern Recognition and Neural Networks, Inference.org.uk, 2009.]
 +
 +
'''Анкеты'''
 +
* [https://goo.gl/forms/es2dEL9qBAtlYfbL2 Домашнее задание 1: выбор инструментов]
 +
* [https://goo.gl/forms/Z19P6Rufll0nL06a2 Выбор задач]
 +
 +
=== Домашнее задание 2: пробное программирование ===
 +
Задачи нужны, чтобы почувствовать как строится базовый эксперимент.
 +
 +
# Выбрать одну из задач
 +
#* в репозитории [https://github.com/Intelligent-Systems-Phystech/Examples Intelligent-Systems-Phystech]
 +
#* или в списке [[Задачи пробного программирования|задач пробного программирования]].
 +
<!--  [[Задачи пробного программирования|одну из задач]], написать номер задачи напротив своей фамилии.-->
 +
# Создать папку Surmame2015ProblemN (Ваша фамилия, год, "Problem", N — номер задачи) в репозитории [https://github.com/Intelligent-Systems-Phystech/StartCode https://github.com/Intelligent-Systems-Phystech/StartCode].
 +
<!-- MLAlgorithms/Group274/Example2015Code -->
 +
# Сохранить туда документированный код и графики c пояснениями.
 +
#* К документации кода приложить короткую аннотацию c целью эксперимента, принцип решения и полученный (на графике) результат.
 +
#* '''Важно!''' Пожалуйста, не сохраняйте туда файлы с данными. Они есть в открытом доступе.
 +
# Графики оформлять в соответствии с [[JMLDA/Fig|рекомендациями]].
 +
# Предлагается руководствоваться стилевыми рекомендациями (в частности, назвать первый файл main или demoTitle).
 +
#* Питон: [https://stackoverflow.com/questions/3898572/what-is-the-standard-python-docstring-format формат numpy/scipy].
 +
#* [https://github.com/numpy/numpy/blob/master/doc/HOWTO_DOCUMENT.rst.txt  Формат документации кода в Питоне] базируется на формате от Гугл, но более читабелен. Также он обрабатывается [http://www.sphinx-doc.org/en/master/# Sphinx] для автоматической генерации сайтов с документацией.
 +
#* Матлаб: [[Документирование функций Matlab]] и [[Media: MatlabStyle1p5.pdf‎|MATLAB Programming Style Guidelines]].
 +
# Подготовить доклад, используя аннотацию и единственный график. Его продолжительность не более 45 секунд (в такое небольшое время уложиться непросто, доклад рекомендуется отрепетировать, лучшие графики приглашаются к докладу на семинаре).
 +
* Совет по выполнению: найдите решение задачи в лекциях, сформулируйте постановку и решение в формулах (в терминах задачи оптимизации) на бумаге, введенные обозначения и решение перепишите в виде кода.
 +
 +
 +
Для справки: примеры ранее выполненных работ.
 +
* В [http://sourceforge.net/p/mlalgorithms/code/HEAD/tree/Group174/Example2014Code/Plavin2014Problem1/  Problem1] отчет генерируется автоматически в формате html. Не хватает описания рисунков.
 +
* В [http://sourceforge.net/p/mlalgorithms/code/HEAD/tree/Group174/Example2014Code/Popova2014Problem7/  Problem7]: код документирован, результаты визуализированы, папка содержит файл Report с описанием процедуры решения задачи. Не хватает: краткого отчета о полученных результатах, описания рисунков (что изображено? что это значит?). Комментарии к коду желательно писать на английском. Оформление рисунков: сравнить fig1 и fig2.
 +
* В [http://sourceforge.net/p/mlalgorithms/code/HEAD/tree/Group174/Example2014Code/ShvetsProblem15/ Problem15]: код документирован, результаты визуализированы, рисунки оформлены в соответствии с требованиям [[JMLDA/Fig]], папка содержит файл Report с описанием процедуры решения задачи. Не хватает: краткого отчета о полученных результатах, описания рисунков.
 +
<!-- {{tip|Разбор решения задач мини-теста по ДЗ-1 находится на странице [[Matlab]].}} -->
 +
<!-- {{tip|Домашнее задание разбивается на две недели. Неделя первая: запустит код с решением задачи. Неделя вторая: построить график с анализом модели.}} -->
 +
 +
'''Дополнение для группы 694'''
 +
* На синтетической выборке или выборке из пробных задач построить график зависимости ошибки от числа добавленных признаков. Сделать на обучении и контроле с указанием дисперсии. Дисперсию считать по ошибкам на дополнительных разбиениях выборки. Указать принцип добавления признаков (например, согласно наибольшему убыванию ошибки). [[Линейная регрессия (пример)|Подсказка: то, что было на доске]].
 +
 +
'''Материалы по домашнему заданию'''
 +
* [https://github.com/Strijov/Strijov2018-1AutomationOfResearch/raw/master/Strijov2018_2AutomationOfResearch.pdf  Слайды второй лекции].
 +
*  Простой пример выбора моделей: [http://www.machinelearning.ru/wiki/index.php?title=%D0%9B%D0%B8%D0%BD%D0%B5%D0%B9%D0%BD%D0%B0%D1%8F_%D1%80%D0%B5%D0%B3%D1%80%D0%B5%D1%81%D1%81%D0%B8%D1%8F_%28%D0%BF%D1%80%D0%B8%D0%BC%D0%B5%D1%80%29 линейная регрессия, раздел криволинейные модели].
 +
* Анкета с вопросами по [https://goo.gl/forms/ecOsg8wlWn9ZBUFd2 '''Домашнему заданию 2'''].
 +
 +
'''Советы по пользованию репозиторием'''
 +
* GitHub: клонируйте '''мастер''' и заливайте правки в него, если работаете только со своим кодом. [https://github.com/Strijov/Strijov2018-1AutomationOfResearch/raw/master/GitHubSimplest.pdf См. краткое руководство по работе с GitHub].
 +
# '''Update first''', Commit after (Pull first, Push after)
 +
# '''Your own work only''', no external publications
 +
# '''No big files''' (put link to external datasets)
 +
# '''No temporary''' nor dummy files
 +
Прочитать, чем '''[https://stackoverflow.com/questions/5009600/difference-between-fork-and-branch-on-github отличается branch от fork]'''
 +
 +
'''Домашнее задание (те же ссылки, что и выше)'''
 +
* [https://goo.gl/forms/es2dEL9qBAtlYfbL2 Домашнее задание 1: выбор инструментов]
 +
* [https://goo.gl/forms/Z19P6Rufll0nL06a2 Выбор задач]
 +
 +
=== Домашнее задание 3: пробный анализ ошибки ===
 +
Обоснование модели, анализ ошибки. Отвечаем на вопрос почему мы используем именно такую прогностическую модель.
 +
 +
# Для задачи из Домашнего задания 2 (или для любой новой задачи, [http://www.machinelearning.ru/wiki/index.php?title=%D0%9B%D0%B8%D0%BD%D0%B5%D0%B9%D0%BD%D0%B0%D1%8F_%D1%80%D0%B5%D0%B3%D1%80%D0%B5%D1%81%D1%81%D0%B8%D1%8F_%28%D0%BF%D1%80%D0%B8%D0%BC%D0%B5%D1%80%29 или вот этой задачи]) сделать анализ ошибки и нарисовать один график на выбор.
 +
#* Зависимость значения ошибки и его [https://ru.wikipedia.org/wiki/%D0%A1%D1%80%D0%B5%D0%B4%D0%BD%D0%B5%D0%BA%D0%B2%D0%B0%D0%B4%D1%80%D0%B0%D1%82%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%BE%D0%B5_%D0%BE%D1%82%D0%BA%D0%BB%D0%BE%D0%BD%D0%B5%D0%BD%D0%B8%D0%B5 стандартного отклонения] от сложности (числа признаков) на обучении и контроле.
 +
#* Зависимость значения ошибки и его стандартного отклонения от объема выборки на обучении и контроле.
 +
#* Комбинация первых двух вариантов.
 +
#* Зависимость значения ошибки и его стандартного отклонения от номера шага в итерационной процедуре.
 +
# Загрузить или сделать апдейт кода и картинки в репозиторий. 
 +
# Дополнительно: ретвит [https://twitter.com/Research_in_ML @AutomationOf] c хештегом #StartCode с графиком и его описанием дает букву.
 +
# Дополнительно: составить список конференций и грантов на год вперед.
 +
 +
'''Материалы по домашнему заданию'''
 +
* [https://github.com/Strijov/Strijov2018-1AutomationOfResearch/raw/master/Strijov2018PlotErrorStd.pdf Подсказка-алгоритм к ДЗ 3].
 +
* [http://www.machinelearning.ru/wiki/index.php?title=%D0%9B%D0%B8%D0%BD%D0%B5%D0%B9%D0%BD%D0%B0%D1%8F_%D1%80%D0%B5%D0%B3%D1%80%D0%B5%D1%81%D1%81%D0%B8%D1%8F_%28%D0%BF%D1%80%D0%B8%D0%BC%D0%B5%D1%80%29 Пример линейной регрессии на Матлабе] (из прошлого ДЗ).
 +
* [http://www.machinelearning.ru/wiki/index.php?title=%D0%9B%D0%BE%D0%B3%D0%B8%D1%81%D1%82%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%B0%D1%8F_%D1%80%D0%B5%D0%B3%D1%80%D0%B5%D1%81%D1%81%D0%B8%D1%8F_%28%D0%BF%D1%80%D0%B8%D0%BC%D0%B5%D1%80%29 Пример логистической регрессии на Матлабе]
 +
* [https://colab.research.google.com/github/jakevdp/PythonDataScienceHandbook/blob/master/notebooks/05.06-Linear-Regression.ipynb Пример линейной регрессии на Питоне] и [http://scikit-learn.org/stable/auto_examples/linear_model/plot_polynomial_interpolation.html пояснения] (и еще [https://www.defenitionofdone.com/linear_regressiona_python_r/ вариант]).
 +
* '''Добавление, GitHub''': [https://github.com/Strijov/Strijov2018-1AutomationOfResearch/raw/master/GitHubSimplest.pdf Самый простой способ работы с репозиторием GitHub], слайды-руководство.
 +
* '''Добавление, GitHub''': [https://github.com/andreiled/mipt-cs-4sem/wiki/%D0%9F%D0%BE%D1%88%D0%B0%D0%B3%D0%BE%D0%B2%D0%B0%D1%8F-%D0%B8%D0%BD%D1%81%D1%82%D1%80%D1%83%D0%BA%D1%86%D0%B8%D1%8F-%D0%BF%D0%BE-%D1%80%D0%B0%D0%B1%D0%BE%D1%82%D0%B5-%D1%81-git-%D0%B8-github-%D0%B4%D0%BB%D1%8F-%D1%81%D1%82%D1%83%D0%B4%D0%B5%D0%BD%D1%82%D0%BE%D0%B2 пошаговая инструкция по работе с git].
 +
* [[Media:LeastSquares.pdf|Слайды третьей лекции]].
 +
* Анкета с вопросами по [https://goo.gl/forms/y57O3qT2sGkxtjJu2 '''Домашнему заданию 3'''].
 +
* [https://t.me/joinchat/Ak0SzkfYN_boA3eRtfPKvg Создан чат Телеграм для обсуждения вопросов по курсу].
 +
 +
=== Домашнее задание 4: кривая обучения ===
 +
Запускаем нейросети на общеупотребляемых выборках. Строим график зависимости ошибки от номера итерации алгоритма оптимизации параметров модели.
 +
 +
# На ваш выбор взять выборку и тип нейронной сети. Согласовать объем выборки и сложность нейронной сети.
 +
# В процедуру оптимизации нейронной сети вставить код, получающий ошибку на тестовой и контрольной выборках или воспользоваться встроенными процедурами.
 +
# Для разных объемов выборки построить графики кривой обучения, показывающие различные скорости обучения.
 +
# Наложить на выборку шум. Например, перемешать независимые переменные или добавить случайный шум в зависимые, на ваш выбор. Построить несколько графиков кривой обучения в условиях наложенного шума с разной дисперсией.
 +
# Если графики строятся на задачах из предыдущих домашних заданий, результаты ДЗ 4 помещаются в ту же папку. Если на новой задаче, создать новую папку в том же репозитории StartCode.
 +
 +
'''Материалы по домашнему заданию'''
 +
* [[Media:How_to_run_my_code.pdf|Слайды четвертой лекции]].
 +
* [https://github.com/neychev/boosting_and_DL Примеры, разобранные на лекции Радослава Нейчева].
 +
* [http://playground.tensorflow.org/#activation=tanh&batchSize=10&dataset=circle&regDataset=reg-plane&learningRate=0.03&regularizationRate=0&noise=0&networkShape=4,2&seed=0.09174&showTestData=false&discretize=false&percTrainData=80&x=true&y=true&xTimesY=false&xSquared=false&ySquared=true&cosX=false&sinX=false&cosY=false&sinY=false&collectStats=false&problem=classification&initZero=false&hideText=false Tinker with a neural network right here]
 +
* [[Логистическая регрессия (пример)|Простой пример логистической регрессии, в которой показана итерация алгоритма оптимизации, внутри которой вычисляется функция ошибки]].
 +
* Анкета с вопросами по [https://goo.gl/forms/QmrdlKZDjtaXvR0i1 Домашнему заданию 4].
 +
 +
=== Домашнее задание A: выбор задачи, аннотация  ===
 +
# [[Автоматизация научных исследований в машинном обучении (практика, В.В. Стрижов)|Выбрать задачу]] и [https://goo.gl/forms/yFAWF9lIfZ87AYvv1 записать свои предпочтения в анкету].
 +
# Задачу надо выбрать '''в течение пары'''<!-- , в понедельник 1 октября 2018.-->
 +
# Распределение по проектам состоялось. Записывайтесь в таблицу '''Проекты: результаты'''<!-- [[Автоматизация научных исследований в машинном обучении (практика, В.В. Стрижов)#Проекты: результаты|'''Проекты: результаты''']]-->.
 +
<!-- # Выбрать координатора в группе, попросить его организовать встречу с консультантом проекта. -->
 +
# Обсудить с консультантом проект, понять цели, задачи, проблемы.
 +
# Найти в организации [https://github.com/Intelligent-Systems-Phystech https://github.com/Intelligent-Systems-Phystech] репозиторий своего проекта или создать его с названием формата '''2018-Project-N''', [https://github.com/Intelligent-Systems-Phystech пример].
 +
#* Записать ссылку на репозиторий [[Автоматизация научных исследований в машинном обучении (практика, В.В. Стрижов)#Проекты: результаты|в таблицу]].
 +
#* Создать в репозитории общие папки '''code''', '''data''', '''report'''.
 +
# Создать личную папку в репозитории проекта, название в формате Surname2018Title.
 +
# Поместить файл (из ДЗ 1) с шаблоном статьи в личную папку, название в формате Surname2018Title.tex.
 +
#* Записать ссылку на файл PDF с текстом статьи из личной папки [[Автоматизация научных исследований в машинном обучении (практика, В.В. Стрижов)#Проекты: результаты|в таблицу]] в формате [http Имя Фамилия].
 +
#* Совет: копируйте ссылку [[Media:Repo-direct-link.pdf|как адрес кнопки Download]] файла PDF, который находится в репозитории.
 +
# Создать документ-черновик обзора литературы формата LinkReview, поставить на него ссылку [[Автоматизация научных исследований в машинном обучении (практика, В.В. Стрижов)#Проекты: результаты|в таблицу]].
 +
# Рекомендуется кроме литературы заносить в LinkReview ссылки на источники данных, на код и библиотеки.
 +
# Совет: создать групповой чат, поставить на него ссылку-приглашение [[Автоматизация научных исследований в машинном обучении (практика, В.В. Стрижов)#Проекты: результаты|в таблицу]].
 +
# Написать '''черновик''' аннотации.
 +
* Аннотация не более 600 символов. Строится по примерному плану:
 +
** чему посвящена работа в целом,
 +
** на чем сконцентрировано исследование,
 +
** в чем особенности исследования,
 +
** [что новое предлагается],
 +
** какими примерами проиллюстрирована?
 +
 +
{{tip|Важно: '''код и результаты проекта общие, над изложением каждый работает сам лично''' в тексте рукописи. Завершенные тексты объединяются в общую рукопись для публикации.}}
 +
 +
'''Материалы по домашнему заданию'''
 +
* [https://github.com/Strijov/Strijov2018-1AutomationOfResearch/raw/master/MotivationExamples.pdf Примеры целеполаганий].
 +
* Примеры черновиков обзоров литературы LinkReview [https://docs.google.com/document/d/1fx7fVlmnwdTesElt-lbaHvoGEjJC5t_9e-X0ZpUzEcQ/edit?usp=sharing раз], [https://docs.google.com/document/d/1XNhnwvooJwjj5UL6lkTio0bpvRKIj2NPVNCdHDRLOLc/edit?usp=sharing два].
 +
* [https://github.com/Strijov/Strijov2018-1AutomationOfResearch/raw/master/AbstractExamples.pdf Примеры аннотаций].
 +
<!--- * Анкета с вопросами по [https://goo.gl/forms/tMsoL3JPZIeMUact2 Домашнему заданию A]. --->
 +
* Анкета с вопросами по [https://goo.gl/forms/nPosqP4HQ154Wjf02 Домашнему заданию AIL].
 +
* [https://web.stanford.edu/class/ee384m/Handouts/HowtoReadPaper.pdf How to Read a Paper, 2016, S. Keshav]
 +
 +
 +
'''Лекция 1''' Линейные, авторегрессионные модели
 +
* Пример: прогнозирование объемов потребления электроэнергии [[Media:2.Electro.pdf|часть 1]] и [[Media:2a.Electro.pdf|часть 2]].
 +
 +
=== Домашнее задание B-talk: рассказ на 45 секунд о проекте ===
 +
Короткий доклад о проекте и два вопроса от аудитории
 +
 +
План доклада:
 +
# Цель проекта (чему посвящен проект, какова мотивация исследования)
 +
# Центральная идея (в чем изюминка исследования)
 +
# Ожидаемый результат (в чем вклад в область, вариант - в чем новизна)
 +
 +
В течение доклада не будет возможности показать слайд или нарисовать что-либо на доске. Рекомендуется отрепетировать доклад на время.
 +
 +
=== Домашнее задание  L: сбор и чтение литературы  ===
 +
# Собрать литературу по проекту:
 +
## Современные обзоры проблемы, включая tutorials
 +
## Фундаментальные методы решения проблемы
 +
## Базовый алгоритм решения задачи
 +
## Альтернативные алгоритмы
 +
## [Изменения в направлениях исследований]
 +
## Выборки по задаче
 +
## Статьи, ссылающиеся на выборки
 +
## Выборки, похожие по структуре
 +
## Применение результатов решения задачи
 +
## Исследователи, решавшие задачу
 +
## Их аспиранты, команды
 +
## Те, кто ссылается на исследователей
 +
## Те, на кого ссылаются исследователи
 +
# Учесть рекомендации по времени появления публикации (сбалансировать ссылки на новые и классические работы)
 +
# Подготовить, пополнять, изменять список ключевых слов
 +
# Заполнить файл LinkReview
 +
# '''Спланировать''' раздел Введение (оно пишется в следующем ДЗ)
 +
#* Ключевые слова (основные термины; можно использовать те, которые дали хорошие результаты поиска)
 +
#* Введение (около страницы); ниже — по абзацам, примерный план
 +
#* Основное сообщение — чему посвящена работа (одна-две фразы)
 +
#* Обзор литературы — развитие предлагаемой идеи (не более двух абзацев)
 +
#* Современное состояние области (два-четыре абзаца)
 +
#* Что предлагается (два абзаца)
 +
 +
'''Материалы по домашнему заданию'''
 +
* [https://github.com/Strijov/Strijov2018-1AutomationOfResearch/raw/master/MotivationExamples.pdf Примеры целеполаганий].
 +
* [https://github.com/Strijov/Strijov2018-1AutomationOfResearch/raw/master/AbstractExamples.pdf Примеры аннотаций].
 +
* [[Media:CommResrarchProtocol.pdf|Методические рекомендации выполнения исследовательских проектов в коммерческой фирме]].
 +
* [https://github.com/Strijov/Strijov2018-1AutomationOfResearch/raw/master/Strijov2018_2AutomationOfResearch.pdf Простое введение в нейросети]
 +
* [[Media:Zhuikov2015MSPresentation.pdf|Проект-стартап, пример отчета от Владимира Жуйкова]].
 +
* [https://cs10.pikabu.ru/post_img/big/2018/07/10/4/1531199339121474094.jpg Демотиватор]
 +
* <!-- Анкета с вопросами по [https://goo.gl/forms/xdwgact95v5QFdXw2 Домашнему заданию L]. -->
 +
 +
=== Домашнее задание I: общая постановка задачи, раздел Введение ===
 +
# Cоздать файл с библиографией: ProjectN.bib для проекта или Surname2018Title.bib личный.
 +
# Перенести из Файла LinkReview библиографические записи, оформив их в формате BibTeX.
 +
#* Проверить правильность заполнения базы BibTeX (порядок написания имен авторов, тома журналов, номера страниц).
 +
#* Совет: пользуйтесь [http://liinwww.ira.uka.de/bibliography/  библиографическими базами] для быстрого заполнения.
 +
#* Совет: используйте стилевой файл по умолчанию '''\bibliographystyle{plain}''' перед библиографией \bibliography{ProjectN}.
 +
#* Важно: Википедия не является первичным источником информации (но в ней можно найти полезные ссылки).
 +
#* '''Важно ArXiv не является рецензируемым авторитетным источником информации'''. Ищите копии работ, опубликованных в рецензируемых журналах. Если в течение года-двух после публикации в ArXiv работа не появилась в рецензируемом журнале, это может свидетельствовать о ее небрежности: работу отвергли.
 +
# Написать раздел Введение. Ожидаемый размер полстраницы-страница. Примерный план:
 +
## Цель исследования (мотивация исследования)
 +
## Предмет исследования (вокруг чего строится исследование)
 +
## Исследуемая проблема (в чем заключается сложность, что требуется сделать)
 +
## Методы исследования: обзор работ, посвященных проблеме, современному состоянию исследований
 +
## Решаемая в данной работе задача
 +
## Предлагаемое решение
 +
## Работа или работы описывающие наиболее близкие решения
 +
## Анализ сильных и слабых сторон предлагаемого решения
 +
## Цель эксперимента, на каких данных будет выполнен эксперимент
 +
# Для себя, на черновике: составьте функциональную схему IDEF0 вашего проекта, как вы его сейчас видите.
 +
 +
{{tip|Цель этой недели — '''охватить взглядом проект в целом''' (и кратко написать об этом). Принцип: проект любой сложности может быть сделан за неделю.}}
 +
 +
'''Материалы по домашнему заданию'''
 +
* Библиографические базы
 +
** [http://liinwww.ira.uka.de/bibliography/ The Collection of Computer Science Bibliographies]
 +
** [http://en.wikipedia.org/wiki/List_of_academic_databases_and_search_engines List of academic databases and search engines на Википедии]
 +
** Справка по формату [[BibTeX]] на этом сайте и [http://ru.wikipedia.org/wiki/BibTeX BibTeX на Wiki]
 +
** [http://svn.code.sf.net/p/mlalgorithms/code/Examples/ArticleReviews/%20r0_ESWA_review_report.pdf Работа над введением после отзыва редколлегии журнала, пример.]
 +
* Планирование проекта с помощью IDEF0
 +
** [[Media:IDEF0_Example.pdf|Страница A-0 в формате IDEF0]]
 +
** [[Media: P_50-IDEF0.pdf‎| Описание архитектуры системы, стандарт IDEF0]]
 +
<!-- ** Вариант: [http://www.nsu.ru/smk/files/idef.pdf Стандарт (методология функционального моделирования) IDEF0] -->
 +
** [https://sourceforge.net/p/mvr/code/HEAD/tree/idef/advertisement/adv.pdf?format=raw Планирование проекта, pdf] (на примере задачи конверсии рекламных кликов)
 +
** [https://sourceforge.net/p/mvr/code/HEAD/tree/idef/featuregen/Multiscale_IDEF0.pdf?format=raw Планирование системы, pdf] и [https://sourceforge.net/p/mvr/code/HEAD/tree/idef/featuregen/Multiscale_IDEF0.rsf?format=raw rsf] (на примере задачи порождения и выбора признаков в задаче прогнозирования)
 +
** [https://sourceforge.net/p/mvr/code/HEAD/tree/lectures/Part6_ScorecardChartflow.pdf?format=raw Описание эксплуатируемой модели, pdf] на примере задачи кредитного скоринга [[Media:ScoringANE(dragged).pdf|с пояснением]]
 +
** Заметка: как создавать [[Media:idef_and_for.pdf|циклические схемы IDEF0]].
 +
** Инструмент для создания IDEF0: [Ramus Educational], вариант  [уточняется https://www.draw.io/]
 +
* [[Media:ProblemStatementPlan(dragged).pdf|План постановки задачи]] к обсуждению на следующем семинаре
 +
<!-- * Анкета с вопросами по [https://goo.gl/forms/8fm5nZxL2NE2jFS93 Домашнему заданию I]. -->
 +
 +
=== Домашнее задание S : постановка задачи ===
 +
Ставим задачу формально для того, чтобы предложить оптимальный алгоритм ее решения.
 +
# Согласовать с консультантом постановку задачи. Посмотреть примеры постановок в материалах по ДЗ и  в предыдущих статьях студентов этого курса.
 +
# Обсудить терминологию и систему обозначений (pdf и tex-файлы со списком возможных обозначений в [[Медиа:Strijov2013Notation.zip| архиве]]).
 +
# В разделе Постановка задачи кратко написать, в чем состоит задача в целом.
 +
# Описать элементы постановки задачи:
 +
## описание выборки (и, возможно, допустимые операции над элементами выборки),
 +
## статистические предположения о природе выборки (гипотезу порождения данных),
 +
##  предположения о характере выборки (природе ее измерений),
 +
## ограничения по составу выборки и значениям ее элементов,
 +
## модель, ее принадлежность к классу моделей,
 +
## ограничения на множество допустимых моделей,
 +
## описание (и, возможно, обоснование) функции ошибки, функции потерь или иной функции качества, согласно которой будет оцениваться качество решения задачи,
 +
##  способы разбиения выборки,
 +
## ограничения, накладываемые на решения задачи,
 +
## возможно, дополнительные функции качества,
 +
## оптимизационную постановку задачи в формате <tex>\arg\min</tex>,
 +
## в постановке или при планировании эксперимента указать
 +
### вид эксплуатируемой модели,
 +
### эксплуатационную функцию ошибки.
 +
# При необходимости вставить перед использованием терминов их определения: что в данной работе является моделью, ее точностью, устойчивостью, адекватностью, информативностью ее элементов, алгоритмом решения задачи.
 +
 +
'''Материалы по домашнему заданию'''
 +
* Три слайда [[Media:Strijov2018ProblStatement.pdf|с планом постановки]]
 +
* Примеры постановок задач
 +
*#  Katrutsa A.M., Strijov V.V. Stresstest procedure for feature selection algorithms // Chemometrics and Intelligent Laboratory Systems, 2015, 142 : 172-183 [http://strijov.com/papers/Katrutsa2014TestGenerationEn.pdf article]
 +
*# Katrutsa A.M., Strijov V.V. Comprehensive study of feature selection methods to solve multicollinearity problem according to evaluation criteria // Expert Systems with Applications, 2017 [http://strijov.com/papers/Katrutsa2016QPFeatureSelection.pdf article]
 +
*# Motrenko A., Strijov V., Weber G.-W. Bayesian sample size estimation for logistic regression // Journal of Computational and Applied Mathematics, 2014, 255 : 743-752. [http://strijov.com/papers/MotrenkoStrijovWeber2012SampleSize.pdf article]
 +
*# Kulunchakov A.S., Strijov V.V. Generation of simple structured Information Retrieval functions by genetic algorithm without stagnation // Expert Systems with Applications, 2017, 85 : 221-230. [http://strijov.com/papers/Kulunchakov2014RankingBySimpleFun.pdf article]
 +
*# Ivkin N.P. Feature generation for classification and forecasting problems, MIPT, 2013 [https://sourceforge.net/p/mlalgorithms/code/HEAD/tree/Group074/Kuznetsov2013SSAForecasting/doc/Ivkin2013ProblemStatement.pdf?format=raw draft]
 +
* [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Рекомендуемые обозначения|Рекомендуемые обозначения]] для вики
 +
* [[Media:Strijov2013Notation.pdf|Рекомендуемые обозначения]], pdf
 +
* Рекомендуемые обозначения, 2019: [[Media:M1_Notation.pdf|pdf]], [[Media:M1_Notation_source.zip|исходники (.tex + .sty)]]
 +
* Пример простого и удобного стилевого [[Media:NiceNotations.pdf|файла с обозначениями]]
 +
* Анкета с вопросами по [https://goo.gl/forms/mlCrhsYzTTOLWJYp2 Домашнему заданию S]
 +
 +
=== Домашнее задание B: описание базового алгоритма ===
 +
Требуется указать базовый алгоритм и запустить его на простой синтетической выборке.
 +
 +
# Запустить базовый алгоритм.
 +
#* Для этого вместе с консультантом найти наиболее простой алгоритм, решающий поставленную задачу (возможно, в частичной постановке).
 +
# Подготовить синтетические данные (или взять несложные реальные, небольшую выборку).
 +
# Запустить алгоритм на синтетических данных, вычислить ошибку.
 +
# Кратко описать базовый алгоритм, проанализировать его свойства, перечислить модели-претенденты. Варианты описания:
 +
## Описание - указание на название черного ящика. Желательно указывать на источник, где содержимое черного ящика описывается подробно. Указывать структурные параметры черного ящика.
 +
## Описание модели как отображения из пространства описания объектов в пространство целевых переменных. При этом можно указать на алгоритм оптимизации параметров модели в виде черного ящика.
 +
## Описание модели и алгоритма оптимизации его параметров в виде псевдокода.
 +
 +
'''Материалы по домашнему заданию'''
 +
* Бахтеев О.Ю. Системы и средства глубокого обучения, [http://strijov.com/papers/Bakhteev2016AWS.pdf статья]
 +
* Мотренко А.П. Повышение качества классификации, [http://strijov.com/papers/MolybogMotrenko2017DimRed.pdf статья]
 +
* Исаченко Р.В. Снижение размерности в задаче декодирования, [https://github.com/Intelligent-Systems-Phystech/2017-Isachenko-PLS/raw/master/doc/Isachenko2017PLS.pdf статья]
 +
* Построение выборки в задачах прогнозирования, [http://svn.code.sf.net/p/mvr/code/lectures/DataFest/Strijov2016Tutorial.pdf слайды]
 +
* [[Media:Zharikov2017Presentation.pdf|Зоопарк нейросетей от Ильи Жарикова]].
 +
* Постановка задачи прогнозирования дефолтов по картам на год вперед, [[Media:Strijov2018ProbStCardScoring.pdf|слайды]]
 +
* Постановка задачи анализа биржевых европейских опционов, [[Media:DMBA_Part13_Energy,Options.pdf|слайды]]
 +
* Анкета с вопросами по [https://goo.gl/forms/ytdZcPtc3jmhB6ZX2 Домашнему заданию B]
 +
 +
=== Домашнее задание-M-Talk: пробный доклад со слайдами ===
 +
# Подготовить устный доклад на две минуты. Доклад отрепетировать по секундомеру. План доклада:
 +
* Посмотреть шаблоны презентации на русском ([http://sourceforge.net/p/mlalgorithms/code/HEAD/tree/Group074/Kuznetsov2013SSAForecasting/doc/Ivkin2013PresentationSample_rus.pdf?format=raw pdf], [http://sourceforge.net/p/mlalgorithms/code/HEAD/tree/Group074/Kuznetsov2013SSAForecasting/doc/Ivkin2013PresentationSample_rus.tex?format=raw tex]) и английском ([http://sourceforge.net/p/mlalgorithms/code/HEAD/tree/Group074/Kuznetsov2013SSAForecasting/doc/Ivkin2013PresentationSample.pdf?format=raw pdf], [http://sourceforge.net/p/mlalgorithms/code/HEAD/tree/Group074/Kuznetsov2013SSAForecasting/doc/Ivkin2013PresentationSample.tex?format=raw tex]) в папке [http://sourceforge.net/p/mlalgorithms/code/HEAD/tree/Group074/Kuznetsov2013SSAForecasting/doc/ Group074/Kuznetsov2013SSAForecasting/doc/].
 +
* Сделать презентацию по плану:
 +
*# Титульный лист, 1 слайд.
 +
*# Цели исследования, решаемая задача, используемые методы, 1 слайд.
 +
*# Иллюстрация проблемы, 1-2 слайда (необязательно). 
 +
*# Литература, 1 слайд.
 +
*# Постановка задачи, 1-2 слайда.
 +
*# Теоретическая часть, 1-10 слайдов (не ожидается).
 +
*# Цели эксперимента, 1 слайд.
 +
*# Эксперимент, 1-5 слайдов.
 +
*# Результаты эксперимента, 1-3 слайда.
 +
*# Заключение: результаты, выносимые на защиту (обязательно).
 +
* Подготовить короткий доклад по слайдам (2-3 мин.)
 +
Примеры докладов:
 +
* [[Участник: Katrutsa|Катруца А.М.]] Дискретное квадратичное программирование с релаксацией при отборе признаков, МФТИ, 2016, [[Media:Katrutsa2016MSPresentation.pdf|презентация]]
 +
* [[Участник:Medvmasha|Медведникова М.М.]] Построение интегральных индикаторов по частично упорядоченным множествам экспертных оценок, МФТИ, 2013, [[Media:Medvednikova2013Presentation.pdf|презентация]],
 +
* [[Участник:Medvmasha|Стенина М.М.]] Согласование прогнозов в задачах прогнозирования иерархических временных рядов, МФТИ, 2015, [[Media:Stenina2015MSThesisPresentation.pdf|презентация]]
 +
*[[Участник:Mikethehuman|Кузнецов М.П.]] Построение моделей обучения по предпочтениям с использованием порядковых экспертных оценок, МФТИ, 2018, [[Media:KuznetsovPhdSlides.pdf|презентация]]
 +
* [[Участник: Andriygav|Грабовой А.В.]] Анализ свойств локальных моделей, МФТИ, 2019, [[Media:Grabovoy2019TSlides.zip|презентация, шаблон с исходниками]]
 +
 +
=== Домашнее задание D: планирование эксперимента ===
 +
Распланировать базовый вычислительный эксперимент, построить синтетическую выборку, сделать описание эксперимента.
 +
# Обсудить с руководителем и командой основную цель эксперимента.
 +
#* Записать цель эксперимента в раздел "Вычислительный эксперимент"
 +
# Описать базовую (синтетическую или несложную реальную) выборку:
 +
#* указать название, источник, природу измерений,
 +
#* указать число объектов, признаков, другие характеристики,
 +
#* для синтетической выборки указать порождающую модель, ее параметры, условия порождения (например, случайное равномерное семплирование)
 +
# Написать, в какой конфигурации запускается алгоритм.
 +
# Спланировать таблицы и графики:
 +
#* составить их список (минимальный и полный варианты),
 +
#* записать название, что отложено по осям,
 +
#* в черновике карандашом нарисовать предполагаемый вид графиков.
 +
* Совет: старайтесь загружать выборку из внешнего репозитория, чтобы эксперимент можно было удобно повторить. Если такого нет, то загрузить данные (включая одну из синтетических выборок) в свой. Согласуйте с руководителем и командой случай когда объем файла велик (например, превосходит 5 МБ), или если файлов много.
 +
 +
'''Материалы по домашнему заданию'''
 +
* Примеры целеполаганий вычислительных экспериментов, см. работы пошлых лет [http://svn.code.sf.net/p/mlalgorithms/code/Group574/Grabovoy2018OptimalBrainDamage/doc/slides/Grabovoy2018OptimalBrainDamage.pdf А. Грабовой], [http://svn.code.sf.net/p/mlalgorithms/code/Group474/Alekseev2017IntraTextCoherence/doc/Alekseev2017Presentation.pdf В. Алексеев], [http://svn.code.sf.net/p/mlalgorithms/code/Group574/Rogozina2018StructurePredictionRNA/doc/slides/Rogozina2018RNAPredictionsSlides.pdf А. Рогозина], [https://github.com/Intelligent-Systems-Phystech/Group594/raw/master/Igashov2018ProteinLigandComplexes/presentation/presentation.pdf И. Игашов], [http://svn.code.sf.net/p/mlalgorithms/code/Group474/Uvarov2017DynamicGraphicalModels/slides/Uvarov2017DynamicGraphicalModels.pdf Н. Уваров]
 +
* Краткое описание природы реальных данных см. например, Bishop C.P. Pattern recognition and machine learning, 2006. Pp. 677-683.
 +
* Коллекция графиков, ассорти[https://sourceforge.net/p/mvr/code/HEAD/tree/lectures/MachineLearningResearch/ComputationalExperiment/fig_compilation_slides.pdf?format=raw], версия для загрузки [[Media:Fig_compilation_slides_stable.pdf|слайды, PDF]].
 +
* Анкета с вопросами по [https://goo.gl/forms/WCQXocoQVXyCVMTn2 Домашнему заданию D].
 +
 +
=== Домашнее задание-E: анализ ошибки ===
 +
Запустить базовый эксперимент, проанализировать его результаты.
 +
 +
Анализ ошибки в вычислительных экспериментах&nbsp;— это анализ изменения значений функции ошибки при изменении состава выборки (или при других изменениях условий эксплуатации модели).
 +
 +
Начальные требования для анализа.
 +
# Задана стратегия разбиения скользящего контроля.
 +
# Поставлена задача оптимизации параметров.
 +
# Задан набор внешних (эксплуатационных) критериев качества модели.
 +
# Для набора разбиений получен
 +
#* набор значений векторов оптимальных параметров,
 +
#* набор значений функции ошибки на обучении и на контроле.
 +
# Получен набор значений внешних критериев на обучении и контроле.
 +
 +
Анализ ошибки содержит следующие базовые [[Проверка статистических гипотез|статистические тесты]].
 +
# Анализ состава выборки:
 +
## анализ [[Простая выборка|простоты выборки]] по отдельным признакам (гистограммы признаков),
 +
## анализ [[Анализ мультиколлинеарности (пример)|мультикоррелированности]] признаков, в частности анализ [[Ковариационная матрица|корреляционных или ковариационных матриц]] (вычисление [[Коэффициент детерминации|R2]], [[VIF]], визуализация результатов [[Метод Белсли|метода Белсли]], в частности, при [[Использование метода Белсли для прореживания признаков|изменении состава признаков]], [https://ru.wikipedia.org/wiki/%D0%A4%D0%B0%D0%BA%D1%82%D0%BE%D1%80%D0%BD%D1%8B%D0%B9_%D0%B0%D0%BD%D0%B0%D0%BB%D0%B8%D0%B7 факторного анализа]),
 +
## тест [http://strijov.com/papers/AduenkoObjectSelection_RV.pdf наличия выбросов] в выборке (визуализация изменения функции ошибки при исключении выбросов),
 +
## тест [http://www.machinelearning.ru/wiki/images/0/03/Neychev2016BSThesis.pdf наличия мультимоделей] (снижение ошибки при, например, использовании стратегии бустинга)
 +
## оценка [http://strijov.com/papers/MotrenkoStrijovWeber2012SampleSize_ICACM.pdf необходимой мощности выборки] (по оси абсцисс&nbsp;— число объектов, по оси ординат&nbsp;— ошибка на обучении и ее стандартное отклонение),
 +
## оценка необходимого числа признаков (по оси абсцисс&nbsp;— последовательно добавляемые признаки; признаки добавляются, например, по убыванию скорости изменения ошибки&nbsp;— т.&nbsp;н. ускорение и торможение ошибки)).
 +
# Анализ дисперсии параметров и функции ошибки
 +
## анализ стандартного отклонения функции ошибки (внутреннего критерия) и внешних критериев (в частности, визуализация ROC — обучение и контроль на каждом из разбиений),
 +
## анализ изменения функции ошибки на итерациях оптимизации (ось абсцисс&nbsp;— итерации, ось ординат функция ошибки на обучении, контроле и ее стандартное отклонение),
 +
## анализ изменения параметров и гиперпараметров модели (по оси абсцисс&nbsp;— итерации, по оси ординат&nbsp;— набор параметров, лапша и их стандартные отклонения или гиперпараметры),
 +
## анализ изменения параметров и функций ошибки при из изменении структурных параметров или регуляризаторов (они по оси абсцисс, по оси ординат&nbsp;— не забываем о стандартном отклонении, получаемом скользящим контролем).
 +
# Сложность алгоритма оптимизации функции ошибки в зависимости от объема выборки
 +
## теоретическая,
 +
## эмпирическая,
 +
## аппроксимация эмпирической функции теоретической (по оси абсцисс&nbsp;— объем выборки, число признаков, число кластеров).
 +
# Анализ свойств модели с помощью внешних критериев, учет возможных ограничений на параметры и структуру модели
 +
## построение парето-оптимального фронта множества моделей, из которых производится выбор.
 +
 +
'''Материалы по домашнему заданию'''
 +
* Анализ пространства параметров, [[Media:Strijov2018ErrParam.pdf|слайды]].
 +
* Критерии качества линейных моделей [http://strijov.com/papers/Katrutsa2014TestGenerationEn.pdf раз], [http://strijov.com/papers/Katrutsa2016QPFeatureSelection.pdf два].
 +
* Коллекция графиков, ассорти[https://sourceforge.net/p/mvr/code/HEAD/tree/lectures/MachineLearningResearch/ComputationalExperiment/fig_compilation_slides.pdf?format=raw], версия для загрузки [[Media:Fig_compilation_slides_stable.pdf|слайды, PDF]].
 +
* [[Media:Strijov2018FeatureSelecttion.pdf|Linear model feature selection slide]].
 +
* 11 Important Model Evaluation Techniques Everyone [https://www.datasciencecentral.com/profiles/blogs/7-important-model-evaluation-error-metrics-everyone-should-know Should Know (datacentral)].
 +
* [https://www.datasciencecentral.com/profiles/blogs/how-bayesian-inference-works How Bayesian Inference Works (datacentral)].
 +
* Анкета с вопросами по [лекциям и семинарам и по Домашнему заданию Е тут 19 ноября с 18:35 до 19:45 https://goo.gl/forms/lpc41Jn6ucxD0zHn1].
 +
 +
'''Анализ ошибки и байесовский выбор моделей (28.03.2019)'''
 +
* [[media:Strijov2018BinaryProblemStatement.pdf| 0. Базовая постановка]]
 +
* [https://sourceforge.net/p/mvr/code/HEAD/tree/lectures/Part1%60DataGeneration.pdf 1. Гипотеза порождения данных]
 +
* [https://sourceforge.net/p/mvr/code/HEAD/tree/lectures/Part2%60ParameterEstimation.pdf 2. Оценка параметров, аппроксимация Лапласа]
 +
* [https://sourceforge.net/p/mvr/code/HEAD/tree/lectures/Part3%60ProblemStatement.pdf 3. Выбор моделей]
 +
* [https://sourceforge.net/p/mvr/code/HEAD/tree/lectures/Part4%60ModelComplexity.pdf 4. Сложность моделей]
 +
* [https://github.com/Strijov/Strijov2018-1AutomationOfResearch/raw/master/Strijov2018PlotErrorStd.pdf Среднее значение и стандартное отклонение ошибки]
 +
* [[media:Strijov2014ErrorGMDH.pdf| -1. Функции ошибки МГУА]]
 +
 +
 +
=== Домашнее задание-H: анализ структуры модели ===
 +
Анализ пространства параметров,  гиперпараметров, структуры модели
 +
 +
# Поставить вычислительный эксперимент на реальной выборке, проанализировать структуру модели.
 +
# Обсудить, что является структурным параметром, согласно которому модель выбирается из множества моделей, примеры:
 +
#* число признаков обобщенно-линейные модели,
 +
#* число слоев нейросети, число нейронов или параметров каждого слоя,
 +
#* число ближайших сосетей,
 +
#* другие параметры.
 +
# Обсудить способ выбора модели:
 +
#* с помощью алгоритмического задания структуры,
 +
#* посредством включения структурных параметров в модель,
 +
#* посредством включения структурных параметров в функцию ошибки,
 +
#* наложением ограничений на функцию ошибки,
 +
#* введением механизма релаксации элементов функции ошибки,
 +
# Обсудить алгоритм выбора модели, оптимизации структурных параметров, примеры:
 +
#* перебор из списка, заданного вручную,
 +
#* полный перебор,
 +
#* генетические алгоритмы,
 +
#* оптимизация с релаксацией,
 +
#* алгоритмы выбора признаков,
 +
#* алгоритмы прореживания,
 +
#* другие специальные алгоритмы.
 +
# Запустить алгоритмы оптимизации
 +
#* параметров,
 +
#* гиперпараметров (если имеются),
 +
#* структурных параметров.
 +
# Построить сравнительную таблицу моделей на одной выборке и оптимизируемой функции ошибки.
 +
 +
'''Материалы по домашнему заданию'''
 +
* Анкета с вопросами по [https://goo.gl/forms/G5h5aHSmeH0hDyUf1 Домашнему заданию H].
 +
 +
=== Домашнее задание-M: выбор модели ===
 +
Обоснованная модель с известными свойствами (таблица-куб «модели-выборки-критерии»). Выбрать модель из класса моделей, сравнить модели-претенденты на различных выборках по разным критериям качества.
 +
# Используя ранее полученные результаты, выбрать для анализа
 +
## несколько выборок,
 +
## несколько вариантов модели или алгоритмов решения задачи,
 +
## критерии качества, функции ошибок.
 +
# Зафиксировать способ кросс-валидации.
 +
# Запустить алгоритм построения таблицы.
 +
# Указать предпочтительную, в сравнении с альтернативами, модель.
 +
 +
'''Материалы по домашнему заданию'''
 +
* Примеры таблицы модели-выборки-критерии [http://strijov.com/papers/Katrutsa2016QPFeatureSelection.pdf Comprehensive study of feature selection methods] и [http://strijov.com/papers/Katrutsa2014TestGenerationEn.pdf Stresstest procedures].
 +
*  Коллекция графиков, ассорти [https://sourceforge.net/p/mvr/code/HEAD/tree/lectures/MachineLearningResearch/ComputationalExperiment/fig_compilation_slides.pdf?format=raw], версия для загрузки [[Media:Fig_compilation_slides_stable.pdf|слайды, PDF]].
 +
* Анкета с вопросами по [https://goo.gl/forms/gaHrRjY6PIxyPthP2 Домашнему заданию M и Анкета-2].
 +
 +
=== Домашнее задание-R: оформление результатов ===
 +
Завершить эксперимент, создать рукопись-технический отчет для показа.
 +
 +
# При консультации руководителя собрать результаты всей команды:
 +
## завершить эксперимент,
 +
## собрать полученные результаты,
 +
## внести таблицу с результатами в раздел Вычислительный эксперимент,
 +
## написать общий вывод.
 +
# Лично (если неясны буквы за выполнение ДЗ) связаться с руководителем, спросить его о своих оценках.
 +
 +
10 декабря - последнее занятие семестра.
 +
 +
'''Материалы по домашнему заданию'''
 +
* Анкета с вопросами по [Домашнему заданию R будет тут].
 +
 +
=== Завершение семестра и зачет  ===
 +
 +
На занятии-семинаре 10 декабря будут выставлены оценки и  зачет/незачет (формат определяет деканат). План проведения семинара.
 +
 +
# Группы делают доклады.
 +
#* Слайды о проекте, общие для всей группы надо загрузить на сайт в таблицу [[Автоматизация научных исследований в машинном обучении (практика, В.В. Стрижов)#Проекты: результаты|'''Проекты: результаты''']] вместе с общим текстом.
 +
#* Совет. Приветствуется краткий рассказ о проекте на 3 минуты, 5 минут максимум, достаточно нескольких слайдов с самым главным сообщением.
 +
#* Можно делать доклад всей группой или выбрать одного докладчика.
 +
# Объявляются оценки.
 +
 +
Организационное.
 +
* Для получения '''зачета-минимума''' необходимо закрыть буквы у руководителя. Так как домашние задания строятся вокруг вычислительного эксперимента, результатом которого является таблица "модели-выборки-критерии", то советуем сосредоточить работу вокруг этой таблицы и графиков с анализом ошибки.
 +
* Для тех, кто хочет '''получить оценку побольше''', учитываются анкеты, тесты, активность на занятиях (в том числе баллы за заполнение таблицы результатов и за диктант с постановкой задач не забыли), активность в гитхабе (половина оценки), и конечно, буквы за ДЗ и мнение руководителя (вторая половина оценки). Дополнительный большой балл за доклад дается всей группе.
 +
*  Тем, кто '''не имеет букв''', чтобы получить минимальную оценку будет дано персональное "аварийное" задание по курсу (результаты проекта группы учитываться не будут), оно будет состоять из заданий SBDEHM. Выборки, модели, критерии будут заданы. (Для студентов ФРТК в этом случае желательно присутствие зам. декана с целью анализа успеваемости. Он же определяет дедлайн.)
 +
 +
=== Аварийное задание  ===
 +
Выполняется в формате питон-ноутбук с кодом, выполняющим эксперимент, поясняющим текстом, графиком, и таблицей. Для тех, кто программирует на других языках, выполняется в аналогичном формате.
 +
 +
Отчет по заданию  содержит следующие разделы и графики с комментариями, достаточными для передачи сообщения тому, кто будет читать код. Графики должны иметь подписанные оси и поясняющий текст с выводом - результатом анализа.
 +
# Цель вычислительного эксперимента
 +
# Описание выборок
 +
# Блок загрузки и предобработки выборок
 +
# График анализа состава выборки:
 +
## анализ выбросов, гистограмма
 +
## анализ пропусков, статистика
 +
## анализ мультикорреляции признаков, кор. матрица
 +
# Список моделей
 +
# Список функций ошибки, критериев качества
 +
# Способ разбиения выборки на обучение-контроль (выбрать)
 +
# Таблица модели/выборки/критерии качества на разбиении со стандартным отклонением
 +
# Анализ выбранной модели на разбиении обучение-контроль
 +
## График зависимости функции ошибки от значения структурного параметра  со ст. откл.
 +
## График зависимости функции ошибки от объема выборки  со ст. откл.
 +
## График  скорости сходимости функции ошибки (зависимости функции ошибки от номера итерации оптимизационного алгоритма)  со ст. откл.
 +
 +
Задание имеет вид: решить задачу (классификации, регрессии, кластеризации) на выборках (список выборок и синтетическая выборка) с использованием моделей (список) со структурными параметрами (список), критерии качества (список).
 +
 +
Аварийное задание является персональным, высылается по почте. Результаты выполнения  загружаются в проект [https://github.com/Intelligent-Systems-Phystech/StartCode StartCode] в папку YourName2018LateProblemN. После того как задание загружено, сообщите об этом, [https://goo.gl/forms/Q1TSiK6IsRXxTaOn1 заполнив анкету].
 +
 +
<!-- Шаблон задания:
 +
* Решить задачу: (классификации, регрессии, кластеризации)
 +
* на выборке: синтетической и реальной
 +
* с использованием моделей: список
 +
* со структурными параметрами: список
 +
* критерии качества: список
 +
-->
 +
 +
 +
 +
 +
 +
 +
=== Полезные ссылки ===
 +
* [http://stipendia.ru/stipend Стипендиальный конкурс Потанина]
 +
* [https://mipt.ru/students/life/useful/scholarship/povyshennaya-gosudarstvennaya-akademicheskaya-stipendiya/ Повышенная государственная академическая стипендия]
 +
*[http://www.rfbr.ru/rffi/ru/contest/o_2074634 Конкурс фундаментальных исследований, выполняемых молодыми учеными]
 +
 +
 +
 +
=== Домашнее задание BR: запуск базового алгоритма, отчет о запуске ===
 +
## Показать на элементарном графике, что получен адекватный результат. [[JMLDA/Fig|См. оформление графиков]].
 +
# Написать мини-отчет о полученных результатах, полстраницы. Он включает:
 +
## Краткое описание цели эксперимента.
 +
## Краткое описания способа порождения выборки или краткое описание природы реальных данных (см. например, Bishop&nbsp;C.P. Pattern recognition and machine learning,&nbsp;2006. Pp.&nbsp;677-683).
 +
## Краткое описание графика и комментарий полученных результатов.
 +
# Постановку задачи и отчет поместить в текст статьи. Данные и код&nbsp;— в папки data, code.
 +
 +
 +
 +
# Выбрать задание, записать название, <s>автора и рецензента (с его согласия)</s> в таблицу ([[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 174, весна 2014|см. группа 174, весна 2014]]).
 +
# Создать папку с названием проекта Surname2015Title в папку группы MLAlgorithms/Group274/. Создать там папки (doc, code,...), поместить в папку doc шаблон-заготовку статьи. См. раздел "Работа с репозиторием".
 +
# Просмотреть/прочитать литературу, написать краткие авторефераты и вставить их во введение.
 +
# На странице группы в колонке "Ссылка" поставить ссылку на папку и на PDF-файл статьи. Например [http://sourceforge.net/p/mlalgorithms/code/HEAD/tree/Group174/Gazizullina2014RailwayForecasting/ folder], [http://sourceforge.net/p/mlalgorithms/code/HEAD/tree/Group174/Gazizullina2014RailwayForecasting/doc/Gazizullina2014RailwayForecasting.pdf?format=raw text], [http://sourceforge.net/p/mlalgorithms/code/HEAD/tree/Group174/Gazizullina2014RailwayForecasting/doc/Gazizullina2014RailwayForecasting.pdf?format=raw slides].
 +
 +
 +
 +
=== Домашнее задание CV: планирование и начальная поставновка эксперимента, визуализация  ===
 +
# Подготовить данные, объявленные в проекте. Загрузить их в репозиторий (в случае, если объем файла превосходит 5 МБ, или если файлов много, согласовывать это с консультантами).
 +
# Описать цели вычислительного эксперимента, составить план эксперимента, описать данные.
 +
# Описать дополнительные критерии качества модели и ограничения, если таковые имеются.
 +
# Описать анализ ошибок, перечислить сравниваемые методы.
 +
# Составить список графиков для визуализации результатов, описать графики.
 +
# Выполнить вычислительный эксперимент в начальном варианте (на синтетических, и если возможно, реальных данных) и нарисовать графики. Коллекция графиков, ассорти[https://sourceforge.net/p/mvr/code/HEAD/tree/lectures/MachineLearningResearch/ComputationalExperiment/fig_compilation_slides.pdf?format=raw], версия для загрузки [[Media:Fig_compilation_slides_stable.pdf|слайды, PDF]].
 +
 +
=== Домашнее задание-T: теоретическая часть ===
 +
# Написать решение поставленной задачи
 +
## в простом варианте
 +
## в деталях, насколько это возможно.
 +
# Сравнить написанное решение с кодом, откорректировать код и решение.
 +
 +
 +
 +
=== Домашнее задание-D: документ в целом ===
 +
'''План научной статьи'''
 +
 +
* Название
 +
* Аннотация (пишется в первую очередь и переписываются при завершении работ): изложение краткого содержания и основных результатов (не более 600 знаков)
 +
* Ключевые слова (основные термины; можно использовать те, которые дали хорошие результаты поиска)
 +
* Введение (около страницы); ниже — по абзацам, примерный план)
 +
** Основное сообщение — чему посвящена работа (одна-две фразы)
 +
** Обзор литературы — развитие предлагаемой идеи (не более двух абзацев)
 +
** Современное состояние области (два-четыре абзаца)
 +
** Что предлагается (два абзаца)
 +
* Постановка задачи (примерно страница)
 +
** Дано (как устроена выборка)
 +
** Предполагается, что (статистические гипотезы, гипотезы порождения данных)
 +
** Ограничения и другие предположения о характере данных
 +
** Функционал или критерий качества искомой модели, решения (часто вытекает из гипотезы порождения данных)
 +
** Дополнительные требования (разбиения выборки, скользящий контроль, требования к мультиколлинеарности и подобное)
 +
* Решение: математическая часть (тут название первого раздела)
 +
** Описание алгоритма
 +
** Исследуемые свойства алгоритма
 +
* Другие разделы (если есть)
 +
* Решение: алгоритмическая часть (часто уходит в следующий раздел)
 +
* Вычислительный эксперимент
 +
** Описание задачи, кратко
 +
** Описание данных, достаточное, чтобы воспроизвести эксперимент самостоятельно
 +
** Описание алгоритма или ход эксперимента
 +
** Описание полученных результатов
 +
** Выводы, сравнение результатов, полученных альтернативным путем
 +
* Заключение (пишется в последнюю очередь): сжатое изложение результатов (1/4 страницы)
 +
** Желательно вставить ссылку на mlalgorithms/ваша_папка для того, чтобы другие исследователи могли проверить результаты или использовать их в дальнейшей работе.
 +
* Литература: опорные статьи за последние 10 лет, максимально покрывающие тематику (не менее 20 статей)
 +
** Литература должна у вас уже быть по результатам доклада-1 (даже если она не вся указана во введении, пожалуйста, приведите полный список)
 +
** Совет: используйте команду TeX \nocite{*} при выводе из файла bbl для получения полного списка.
 +
 +
''' [[Написание отчётов и статей (рекомендации)|План технического отчета]] '''
 +
* Аннотация: изложение краткого содержания и основных результатов (не более 600 знаков).
 +
* Введение: раскрытие темы статьи, общая постановка задачи, обзор литературы, описание подхода к решению задачи.
 +
* Постановка задачи: полная формальная постановка, введение обозначений, принятие необходимых гипотез, задание функционалов качества.
 +
* Описание алгоритма (возможно несколько разделов): математическое описание предлагаемого алгоритма, исследование его свойств, доказательство необходимых теорем.
 +
* Вычислительный эксперимент: описание исходных и производных данных, описание технической части алгоритма (если необходимо), описание результатов, сравнение их с результатами других алгоритмов; крайне желательны иллюстрации.
 +
* Заключение: сжатое изложение результатов (1/4 страницы).
 +
* Список литературы: желательно найти опорные статьи за последние 10 лет, максимально покрывающие тематику.
 +
 +
 +
 +
=== Домашнее задание-W: рецензирование  ===
 +
 +
Работы 3-6 делает рецензент. Работы 1-2 делает автор.
 +
# Собрать документ статьи для рецензирования.
 +
# Договориться с рецензентом.
 +
# Поставить фамилию рецензента в таблице на странице группы.
 +
# Рецензенту: написать отзыв на работу. В качестве образца использовать рецензии из папки [http://svn.code.sf.net/p/mlalgorithms/code/Examples/ArticleReviews ArticleReviews]. Рецензия не обязательно содержит описание рецензируемой работы, но содержит мнение рецензента о новизне, актуальности и обоснованности работы, а также список ошибок, недочетов и замечаний, призванных улучшить качество статьи.
 +
# Рецензию выложить в папку автора работы. Формат произвольный (.pdf, .txt, .doc).
 +
# Ссылку на рецензию вставить после фамилии рецензента.
 +
 +
Рецензент проверяет следующие критерии
 +
# Ясность основного сообщения, наличие единого объекта исследования
 +
# Точность терминов, связность изложения
 +
# Стандартность, непротиворечивость и ясность обозначений
 +
# Соответствие цели и содержания эксперимента поставленной задаче
 +
# Полнота анализа ошибки
 +
# Повторяемость эксперимента:
 +
## основной алгоритм восстанавливается из математического описания или из псевдокода без помощи автора,
 +
## код читается легко, есть его описания, основной модуль легко найти, он запускает базовый вариант эксперимента,
 +
## в статье есть ссылка на код и на выборку
 +
 +
[[Media:Surname2018Title_Review.rtf|'''Шаблон''' рецензии Surname2018Title_Review.rtf]].
 +
'''Примеры''' рецензий, которые обсуждались на лекции, [https://mlalgorithms.svn.sourceforge.net/svnroot/mlalgorithms/Example2012Reviews/ находятся здесь].
 +
 +
При рецензировании '''кода'''
 +
*Рецензент '''
 +
** в статье на ML ставит пометки \footnote<nowiki>{Замечание к статье}</nowiki>.
 +
** в файлах-исходниках ставит пометки <nowiki>% FIXIT Замечание к коду</nowiki>.
 +
* Автор
 +
** В статье вносит требуемые исправления и снимает пометки \footnote{Замечание к статье}.
 +
** В файлах-исходниках вносит требуемые исправления и исправляет пометки<nowiki> % FIXIT на %FIXED</nowiki>.
 +
 +
'''Соглашение о комментировании'''
 +
Приняты следующие комментарии, добавляемые в код при его проверке:
 +
<source lang="matlab">
 +
% FIXIT - желательно изменить код (улучшить структуру кода или устранить ошибку),
 +
% FIXED - устраненные ошибки или улучшенный код,
 +
% NOTE - комментарий для обмена мнениями,
 +
% TODO - желательно выполнить работу.
 +
</source>
 +
 +
 +
Рецензент отвечает за качество работы, но должен быть благожелателен к исполнителю. Критерий качества работы: рецензент с удовольствием готов использовать рецензируемую работу для решения своих задач.
 +
 +
=== Домашнее задание J ===
 +
[[Media:Journals2SubmitPapers.pdf‎|Список журналов для подачи студенческих работ]]
 +
 +
=== Тема Unit-test ===
 +
TODO
 +
 +
== Подготовка к экзамену ==
 +
 +
Экзамен будет проходить в виде доклада. Продолжительность '''5-10 минут''' и три дополнительные минуты на вопросы.
 +
Цель — показать, что результаты работы понятны специалисту, и могут быть им использованы в дальнейшем.
 +
Под специалистами понимаются ваши одногруппники и преподаватели кафедры.
 +
 +
Во время презентации требуется:
 +
* Поставить задачу
 +
* Осветить основные принципы работы алгоритма (кратко, без деталей)
 +
* Описать интерфейсы модулей алгоритма
 +
* Показать работу алгоритма на примерах
 +
* Проанализировать свойства алгоритма
 +
 +
На презентации нужны:
 +
* Отчет
 +
* Код на sourceforge.net
 +
 +
Советы:
 +
# Подготовьте доклад с секундомером в руках
 +
# Расскажите его другу, ответьте на его вопросы
 +
 +
На экзамене оценивается:
 +
# Корректность математической постановки задачи
 +
# Полнота описания алгоритма
 +
# Продуманность интерфейсов
 +
# Соответствие стандартам программирования
 +
# Ясность изложения результатов
 +
# Глубина анализа свойств алгоритма
 +
# Качество рецензирования (чужой работы)
 +
 +
 +
''' Разработка алгоритма '''
 +
Основные приемы программирования — на лекции.
 +
* [[Машинное обучение и анализ данных (журнал)/Оформление графиков|Оформление графиков]]
 +
* [[JMLDA/MVR|Проведение вычислительного эксперимента онлайн]]
 +
 +
''' Работа с репозиторием '''
 +
В репозитории MLAlgorithms должны лежать следующие файлы и папки:
 +
* папка — название проекта,
 +
* папка '''doc''' с документацией и со статьей (обязательно хранить там .pdf, .tex, финальные версии рисунков .eps/.pdf; удалять все временные файлы),
 +
* папка '''code''' с кодом проекта,
 +
** в этой папке выделить файл, который нужно запустить, чтобы посмотреть отчет, например '''demoProjectName.mat''',
 +
* папка '''data''' с данными по проекту (исходными и производными в .mat),
 +
* (необязательно) папка '''report''' c промежуточными рисунками (рисунки и черновики отчетов вместе с кодом хранить нежелательно),
 +
* не следует хранить чужие статьи в репозитории; их удобнее хранить в базе [http://www.mendeley.com/ Mendeley].
 +
 +
На сайте machinelearning.ru находится только вводная часть и ссылки на код и на статью.
 +
Ниже приведен шаблон, который следует скопировать и вставить в создаваемую статью.
 +
 +
<pre>'''Название проекта''' и его краткая аннотация, не более 600 символов
 +
== Постановка задачи ==
 +
Не более 1/2 стр.
 +
== Пути решения задачи ==
 +
Не более 1/2 стр.
 +
== Смотри также ==
 +
* [http://example.com/ Ссылка на текст статьи]
 +
* [http://example.com/ Ссылка на код]
 +
== Литература ==
 +
{{Задание|Иван Иванов|В.В.Стрижов|24 декабря 2010|Ivanov|Strijov}}
 +
[[Категория:Практика и вычислительные эксперименты]]
 +
</pre>
 +
Полезная информация:
 +
* Адрес репозитория [https://mlalgorithms.svn.sourceforge.net/svnroot/mlalgorithms  https://mlalgorithms.svn.sourceforge.net/svnroot/mlalgorithms].
 +
* Совет: не загружайте в репозиторий вспомогательный файлы '''Thumbs.db''', '''.asv''' они будут мешать.
 +
 +
''' Вычислительный эксперимент '''
 +
 +
Вычислительный эксперимент состоит следующих шагов:
 +
# Порождение модельных данных или загрузка реальных данных
 +
# Предобработка данных (если требуется)
 +
# Визуализация данных (если требуется)
 +
# Выполнение алгоритма, получение результатов
 +
# Визуализация результатов
 +
# Исследование свойств алгоритма
 +
# Выводы
 +
 +
 +
 +
== Справочные материалы ==
 +
=== Политика ===
 +
# Списывание (то есть цитирование) приветствуется; использование чужого кода приветствуется вдвойне. При этом следует корректно указывать оригинального автора. Цитаты следует заключать в кавычки, например: ''«Мера~--- превыше всего»~\cite{Gasparov2004Greece}''.
 +
# Изобретать велосипед грешно; усовершенствовать почетно.
 +
# Результат важнее процесса.
 +
 +
=== Правила оформления научных работ ===
 +
* '''NB''' [[Media:2010`PaperExample.zip‎‎|Заготовка для русскоязычной статьи со стилевым пакетом журнала «Вычислительные технологии», ZIP]]
 +
* '''NB''' [[Media:PresentationSample.zip|Шаблон презентации Beamer-LaTeX]]
 +
* [http://www.elsevier.com/wps/find/authors.authors/howtosubmitpaper Elsevier’s guide to publication]
 +
* [https://www.elsevier.com/__data/assets/pdf_file/0008/56843/elsdoc-1.pdf A better way to format your document]
 +
* [https://www.elsevier.com/authors/author-schemas/artwork-and-media-instructions Author Artwork Instructions]
 +
* [http://www.elsevier.com/wps/find/authorsview.authors/elsarticle The elsarticle LaTeX document class]
 +
* Russian: \usepackage[cp1251]{inputenc} \usepackage[russian]{babel}
 +
* Ключевые слова по MSC-кодам[http://www.ams.org/mathscinet/msc/msc2010.html?t=&s=15A18++Eigenvalues,+singular+values,+and+eigenvectors&btn=Search&ls=Cs]
 +
* [http://akagi.ms.u-tokyo.ac.jp/input9.pdf Коммутативные диаграммы в LaTeX, справочник]
 +
 +
{{tip|'''Совет.''' Прежде, чем показать свою работу, проверьте орфографию и пунктуацию. Формулы (в том числе и выключенные) являются частью системы пунктуации. Сверяйтесь с хорошими образцами!}}
 +
 +
==== Список обозначений ====
 +
[[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Рекомендуемые обозначения]]
 +
 +
* [http://en.wikipedia.org/wiki/Notation_in_probability_and_statistics Notation in probability and statistics]
 +
* [http://en.wikipedia.org/wiki/Table_of_logic_symbols List of logic symbols]
 +
* [http://en.wikipedia.org/wiki/Mathematical_notation Mathematical notation] общие сведения
 +
* Стандарт [http://en.wikipedia.org/wiki/ISO_31-11 ISO 31-11] из группы [http://en.wikipedia.org/wiki/ISO_80000 ISO 80000]; по нашей специальности [http://www.iso.org/iso/ru/catalogue_detail?csnumber=31898 IEC 80000-13:2008] (Quantities and units -- Part 13: Information science and technology)
 +
* [http://en.wikipedia.org/wiki/Abuse_of_notation Abuse of notation]
 +
* [http://en.wikipedia.org/wiki/Greek_letters_used_in_mathematics Greek letters used in mathematics]
 +
* [http://en.wikipedia.org/wiki/Roman_letters_used_in_mathematics Latin letters used in mathematics]
 +
* [http://en.wikipedia.org/wiki/Table_of_mathematical_symbols List of mathematical symbols]
 +
* [http://en.wikipedia.org/wiki/Typographical_conventions_in_mathematical_formulae Typographical conventions in mathematical formulae]
 +
* [http://en.wikipedia.org/wiki/Blackletter Blackletter]
 +
 +
=== Необходимые программы ===
 +
* MiKTeX… typesetting beautiful documents… Basic MiKTeX 2.8" Installer[http://miktex.org/2.8/setup]
 +
* LaTeX editors WinEdit[http://www.winedt.com/] OR TeXnicCenter[http://www.texniccenter.org/]
 +
* JabRef, an open source bibliography reference manager[http://jabref.sourceforge.net/]
 +
* SciLab, the Free Platform for Numerical Computation[http://www.scilab.org/en]
 +
* Русский словарь для редактора WinEdit [[Media:User.zip|ZIP, [1,53Мб]]], записать в папку C:\Program Files (x86)\WinEdt Team\WinEdt\Dict
 +
* InkScape, графический редактор с экспортом в LaTeX [http://www.inkscape.org сайт] и [http://www.ctan.org/tex-archive/info/svg-inkscape пример использования]
 +
 +
=== Руководства по ТеХнической части ===
 +
 +
* [http://www.markschenk.com/tools/jabref/ Custom Export для JabRef]
 +
* Для конвертации LaTeX-исходников в формат MS Word использовать [http://grindeq.com/index.php?p=home&lang=en GrindEQ] (первые 10 запусков бесплатны)
 +
 +
=== Полезные материалы и ссылки ===
 +
* [[Media:PracticeStrijovTemplate1.rtf| Заготовка для статьи на machinelearning.ru]]
 +
* [[Логистическая регрессия (пример)|Образец статьи о выполненном практическом задании]]
 +
* [[machinelearning:Инструктаж| Как написать статью на сайт machinelearning.ru]]
 +
* [[SourceForge|Как работать с репозиторием алгоритмов]]
 +
* [[Matlab|Введение в Матлаб]]
 +
* [[Документирование функций Matlab|Документирование функций Matlab, соглашение об именах переменных и создание отчетов о вычислительных экспериментах]]
 +
* [[Media: MatlabStyle1p5.pdf‎|Matlab Programming Style Guidelines]]
 +
* [https://mlalgorithms.svn.sourceforge.net/svnroot/mlalgorithms/ Содержимое корневой папки репозитория MLAlgorithms SourceForge]
 +
* [http://strijov.com/sources/demoDataGen.php Пример отчета с загрузкой модельных данных, который разбирался на лекции]
 +
* [http://archive.ics.uci.edu/ml/ UCI Machine Learning Repository]
 +
* [http://diss.rsl.ru/datadocs/doc_291wu.pdf Стандарт библиографического описания], см. Приложение А
 +
* [[Индекс цитирования (инструменты)]]
 +
* [[CRISP-DM|CRoss Industry Standard Process for Data Mining]]
 +
* [http://www.ml-class.org/course/video/preview_list Машинное обучение и Octave (Stanford Uni.)]
 +
* Умберто Эко. Как написать дипомную работу. Гуманитарные науки: Учебно-методическое пособие / Пер. с ит. Е.Костюкович. — 3 изд. — М., КДУ, 2004. — 240 с [http://mozg.by/system/files/UmbertoEkoDiplomnajaRabota.pdf]
 +
* А. Б. Сосинский. Как написать математическую статью по-английски. — М: Изд-во «Факториал Пресс», 2000. [http://ega-math.narod.ru/Quant/ABS.htm]
 +
* С. С. Кутателадзе. Russian-To-English in Writing: Советы эпизодическому переводчику. Новосибирск: Изд-во Ин-та математики, 2000. [http://vivovoco.astronet.ru/VV/BOOKS/RUSTOENG/CONTENT.HTM]
 +
* [https://www.researchgate.net/profile/S_Sarvade/post/Active_versus_Passive_Voice_What_should_be_the_priority_of_researchers_in_writing_a_research_paper/attachment/59d64c3779197b80779a6127/AS%3A483645828931585%401492321559511/download/3143.pdf.pdf English for Writing Research Papers]
 +
* [http://citeseerx.ist.psu.edu/viewdoc/download;jsessionid=158F9F73F8BDEA903719606A2536FCA3?doi=10.1.1.23.5877&rep=rep1&type=pdf Crafting Papers on Machine Learning]
 +
* [http://arxiv.org/pdf/1206.4656.pdf Machine learning that Matters]
 +
* [http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.32.9924&rep=rep1&type=pdf On Applied Research in Machine Learning]
 +
* Ф. А. Кузин. Кандидатская диссертация. Методика написания, правила оформления и порядок защиты: Практ. пособие для аспирантов и соискателей ученой степени. — 2 - е изд. — М.: «Ось-89», 1998. [http://webmed.irkutsk.ru/doc/pdf/kuzin.pdf]
 +
* Как написать рецензию на дипломную работу. [http://www.sessia.net/statia/23]
 +
* [https://mipt.ru/about/departments/library/net_libr/ Электронные Ресурсы в МФТИ]
 +
* [http://matlib.ru/ Сводный каталог математической литературы]
 +
* [https://www.coursera.org/learn/latex/home/welcome Онлайн курс по LaTeX на Coursera на русском языке.]
 +
*...
 +
 +
=== Советы ===
 +
[http://aspirantspb.ru/articles/disser/wikipedia/ "Можно ли невозбранно цитировать материалы Википедии"]
 +
[http://aspirantspb.ru/articles/disser/plagiat/ "Как избежать плагиата"]
 +
 +
== Организационные материалы ==
 +
Для чтения: [https://trv-science.ru/2017/06/06/kak-publikovatsya-v-vysokoimpaktnyx-zhurnalax/ Как публиковаться в выскоимпактных журналах?]
 +
Цитата: "исследователи, успешно публикующиеся в журналах с высоким импакт-фактором, пишут свои рукописи на трех уровнях: первый — это резюме, доступное широкому кругу читателей и содержащее основные выводы, второй — это базовый документ с основными результатами исследований для тех, кто хочет получить более подробную информацию, как именно был получен вышеозначенный результат, и третий — это приложение со всем необходимым для воспроизведения результата. Вот формат, который ждут от вас журналы вроде Science и Nature."
 +
 +
Как найти журнал
 +
* Ищем, кто публикуется по нашей теме, его базовые работы. На кого мы ссылаемся в работе.
 +
* Смотрим в каком журнале эти работы.
 +
* Смотрим какие еще работы по этой теме опубликовал этот журнал.
 +
* Связываем обзор литературы с этими работами.
 +
* Подаем туда.
 +
Для пользователей каталога WoK
 +
* Ищем наиболее близкую работу
 +
* Строим дерево цитирования вперед и назад во времени
 +
* Теоретически ссылки должны замыкаться, но сейчас это происходит все реже
 +
 +
=== Как подать статью в русский журнал ===
 +
Для справки: [[индекс цитирования (инструменты)]]
 +
==== Журналы ВАК ====
 +
[https://docs.google.com/document/d/1568mWA9h7CmDqsErsBQKKBZBoWTs0N9c02C9QrtsUvY/pub Список зарубежных журналов ВАК по тематике курса]
 +
 +
 +
* Журнал вычислительной математики и математической физики[http://www.maik.ru/cgi-perl/journal.pl?lang=rus&name=vychmat&page=main]
 +
* Автоматизация и современные технологии[http://www.mashin.ru/jurnal/content.php?id=2]
 +
* Проблемы машиностроения
 +
* Автоматика, связь, информатика
 +
* Интеллектуальные системы[http://intsys.msu.ru/magazine/] (Мехмат МГУ, МАТИС)
 +
* Информатика и ее применения[http://www.ipiran.ru/journal/issues/]
 +
* Информационные технологии[http://www.novtex.ru/IT/]
 +
* Информационные технологии и вычислительные системы[http://www.jitcs.ru/index.php?option=com_content&view=article&id=208]
 +
* Теория вероятностей и ее применения[http://www.tvp.ru/] (Журнал SIAM)
 +
* Обозрение прикладной и промышленной математики[http://www.tvp.ru/] (Сайт ТВП)
 +
* Проблемы прогнозирования[http://www.ecfor.ru/fp/index.php]
 +
* Заводская лаборатория[http://www.zldm.ru/]
 +
* Математическая биология и биоинформатика[http://www.matbio.org/]
 +
{{tip|'''Замечание.''' Название журнала иногда слабо связано с его тематикой.}}
 +
 +
==== Подаем статью в редакцию ====
 +
Статья написана, нужно:
 +
* прочитать ее громко вслух,
 +
* дать почитать рецензенту, получить критические замечания, доработать.
 +
 +
Затем переходим к формированию пакета документов.
 +
 +
# Делаем перевод названия статьи, аннотации, ключевых слов, на английский язык, внимательно вычитываем. Вставляем этот блок (название, авторы, аннотация, ключевые слова) в конец статьи.
 +
# Находим [http://www.teacode.com/online/udc/51/519.2.html подходящий УДК], ставим в первую строку, до заголовка статьи.
 +
# Собираем файл tex>pdf, проверяем название: «Author2011Title.pdf» (фамилия автора и первое или ключевое слово названия статьи).
 +
# Читаем раздел «Авторам, требования к оформлению статей» на сайте журнала, выполняем эти требования.
 +
## Если журнал принимает статьи TeX, то посылаем файлы .pdf, .tex и .eps. Рисунки .eps должны компилироваться из одной папки со статьей, из названия должны иметь вид «Author2011Title_Fig1.eps». Если журнал предлагает стилевой файл (.sty, .cls) компилируем с ним, если не предлагаем, пользуемся по умолчанию стилем atricle.
 +
## Если журнал принимает статьи MS-Word, то пользуемся конвертором [http://www.grindeq.com/ LaTeX-to-Word]; то, что он не сделал, дорабатываем руками. Замечание: рисунки для MS-Word лучше всего записывать не в формате .eps, а в формате .emf.
 +
# Делаем файл «Сведения_об_авторах.doc‎», вписываем себя (и соавторов, если есть).
 +
<pre>
 +
Сведения об авторах
 +
 +
Фамилия Имя Отчество
 +
студент
 +
Московский физико-технический институт
 +
119991, ГСП-1, Москва, Вавилова д. 42, оф. 151
 +
Тел. служебный: 8 (495) 135-4163
 +
Факс: 8 (495) 137-2848
 +
E-mail: Name.Surname@mipt.ru
 +
</pre>
 +
Пишем письмо следующего вида и отсылаем в журнал письмо и файл-статью (файлы, если это TeX) и файл-сведения по адресу, указанному журналом.
 +
<pre>
 +
Тема: Новая статья [Автор И.О. Название]
 +
 +
Уважаемый [Имя Отчество главного редактора журнала]!
 +
 +
Прошу Вас принять к рассмотрению для публикации в журнале "[Название журнала]"
 +
статью "[Название статьи]". Статья посвящена проблеме [выбора регрессионных
 +
моделей] и ранее нигде не публиковалась.
 +
 +
Прилагаю статью с аннотациями на русском и английском языках, а также сведения об авторах.
 +
 +
С уважением,
 +
[Имя Отчество Фамилия]
 +
[Организация]
 +
[телефоны для связи]
 +
 +
И. О. Автор, студ., Московский физико-технический институт
 +
[Название статьи]
 +
[Текст аннотации на русском языке]
 +
Ключевые слова: [пять слов или словосочетаний через запятую].
 +
 +
N. M. Surname, Moscow Institute of Physics and Technology
 +
[Feature selection in autoregression forecasting]
 +
[The abstract itself]
 +
Keywords: [keywords].
 +
</pre>
 +
 +
'''Замечание.''' Процесс рецензирования в некоторых журналах иногда занимает более года. После возможно отклонение статьи по разным причинам. Тем не менее, подавать одну и ту же статью сразу в несколько журналов не принято.
 +
 +
==== Работа с рецензентами ====
 +
Через некоторое время (одна-две недели) автору приходит сообщение, что статья получена редколлегией и направлена на рецензирование. Если сообщение не приходит, то нужно вежливо написать или позвонить секретарю (или ответственному редактору).
 +
 +
Через несколько месяцев (максимум — полгода) должна прийти рецензия от одного или нескольких рецензентов. Возможны варианты.
 +
# ''Статья принята при условии доработки с учетом замечаний рецензентов'' — прекрасно. Это означает, что статью внимательно прочитали и ее можно улучшить. Исправляем статью и составляем отчет о проделанной работе, который вместе со статьей отправляем в журнал. [[Media:Surname2011Title_ToRewievers.pdf|См. пример отчета.]]
 +
# ''Статья будет повторно рассмотрена после доработки'' — хорошо, бывают такие строгие журналы. Делаем как в пункте выше.
 +
# ''Статья принята без доработки'' — нормально, но к таким журналам нужно относиться осторожно, возможно, редколлегия статью детально не читала. Если это так, больше там не публикуемся.
 +
# ''Статья отвергнута по каким-то причинам'' — скорее всего ошибка автора статьи: статья не соответствует тематике или в редколлегии не нашлось специалиста. (А еще и так бывает: статья написана плохо, см. предпоследний пункт).
 +
# ''Статья требует существенной переработки'' — плохо;
 +
## если с детальным указанием что нужно делать, то можно попытаться исправить как в п. 1,
 +
## если без указания что нужно делать, то считаем, что редколлегия отвергла статью в вежливой форме (хотя нужно было отвергнуть явно),
 +
## статья действительно плохо написана, советуемся с коллегами/научными руководителями, они вам скажут, что думают о вашей работе.
 +
# Ответа из редколлегии нет — плохо, статью либо потеряли, либо работа редколлегии плохо организована, добиваемся ответа.
 +
 +
==== Работа с редактором ====
 +
Перед публикацией статьи может прийти письмо с предложением встретиться с редактором журнала для технической правки текста. Рекомендуется пойти, познакомиться с редактором и поработать вместе над статьей. Это занимает два-четыре часа. Результат — статья, приведенная в соответствие со стандартами и с нормами русского языка. Вариант: редактор присылает технические правки в файле PDF, автор их принимает или отвергает.
 +
 +
* Совет консультантам. Желательно править статью вместе при встрече. Пример общепринятой рукописной редакторской правки [[Media:MarkedProof.pdf|тут, PDF.]]
 +
 +
=== Как подать статью в международный журнал ===
 +
 +
==== Памятка переводчику ====
 +
# Проще - лучше.
 +
# Предложение состоит из подлежащего и сказуемого. И дополнения.
 +
# Прочего следует избегать. Ищите подлежащее. Предложение состоит из трех-пяти слов.
 +
# Каждое существительное - точный термин.
 +
# Существительное имеет свой точный глагол - сказуемое.
 +
# Глагол имеет точный предлог перед дополнением.
 +
# Точный - это значит, что его надо найти в образцах или в словарях.
 +
# Словарный состав должен быть минимален.
 +
# Пассива не существует.
 +
# Актив для повествования, императив для описания алгоритмов.Роль артиклей значима. Их разнообразие велико.
 +
# Не сочиняйте ни слова, ни конструкции. Не придумывайте текст. Ищите его у англичан.Англичанами являются: 1) Стефен Вольфрам, 2) Кристофер Бишоп, 3) Дэвид Маккай.
 +
# Копируйте из учебников.
 +
 +
TODO на что нужно обратить внимание при подаче статью в журнал с высоким импакт-фактором.
 +
 +
==== Что сделать ====
 +
* Найти журналы опубликовавшие статьи, на которые нужно сослаться. В работе, подаваемой в журнал, желательно иметь 3-5 ссылок на его ранние номера (1-4-летней давности). В идеале нужно найти журнал, содержащий статьи, в которых предлагается "почти то же самое", что и в подаваемой статье. Желательно иметь список из 3-7 журналов. (Предпочтение научного руководителя - IF 2.0-4.0, но можно и меньше).
 +
* Журналы искать в коллекциях
 +
** [http://www.elsevier.com/wps/find/journal_browse.cws_home Elsevier]
 +
** [http://www.tandfonline.com/action/showPublications?category=43983483 Taylor&Francis]
 +
** [http://www.springer.com/computer/computer+journals?SGWID=0-40100-0-0-0 Springer]
 +
** [http://www.sciencedirect.com/science/journals Hindawi Publishing Corporation]
 +
** Других (пополнить)
 +
* Найденные журналы должны быть в списках ВАК, то есть «включены в хотя бы одну из систем цитирования Web of Science, Scopus, Web of Knowledge, [], Mathematics, [], Springer»[http://vak.ed.gov.ru/ru/help_desk/list/].
 +
** Вставить ссылку (платный вход во все перечисленные системы?[http://www.scopus.com/home.url])
 +
** Возможно, похожа база [http://www.sciencedirect.com/science/journals ScienceDirect] (там ссылка на SciVerse, они что, все слились в одну систему?).
 +
* Найти статьи, опубликованные за последние восемь лет, на которые опирается подаваемая статья. Желательно иметь список из 20 статей.
 +
* Статьи искать по всему интернету, включая платные коллекции. Желательно ссылаться на статьи из журналов списка SicenceDirect/WebOfKnowledge.
 +
 +
==== Список журналов ====
 +
* [http://www.journals.elsevier.com/journal-of-statistical-planning-and-inference/#description Journal of Statistical Planning and Inference] IF=0.691
 +
* [http://ieeexplore.ieee.org/xpl/RecentIssue.jsp?punumber=34 IEEE PAMI] IF=?
 +
* [http://jmlr.csail.mit.edu/ JMLR] IF=2.94.
 +
* [[Журналы ВАК по тематике ресурса]]
 +
* [[Обсуждение:Автоматизация и стандартизация научных исследований (практика, В.В. Стрижов)|Черновик в обсуждении этой страницы]]
 +
 +
==== Коллекции и наукометрические системы ====
 +
* [http://www.sciencedirect.com/science/journals ScienceDirect]
 +
* [http://thomsonreuters.com/products_services/science/science_products/a-z/science_citation_index?parentKey=441594 Thomson Reuters]
 +
* [http://www.hub.sciverse.com/action/home/proceed SciVerse]
 +
* [http://www.harzing.com/pop.htm Publish or Perish]
 +
* [http://academic.research.microsoft.com/ Microsoft Academic Search]
 +
* [http://en.wikipedia.org/wiki/Science_Citation_Index Science Citation Index на Википедии]
 +
 +
==== Ликбез от Elsevier ====
 +
* [http://mediazone.brighttalk.com/comm/ReedElsevier/643174e08d-28219-2251-31480 Preparing your Manuscript]
 +
* [http://mediazone.brighttalk.com/comm/ReedElsevier/6df160b9de-28220-2251-31265 Using Proper Manuscript Language]
 +
* [http://mediazone.brighttalk.com/comm/ReedElsevier/509ba7e7a9-28221-2251-31500 Structuring an Article]
 +
* [http://www.elsevier.com/wps/find/authors.authors/editchecklist Edit checklist]
 +
* [http://www.elsevier.com/wps/find/authors.authors/highlights Article highlights]
 +
* [http://www.articleofthefuture.com/ Article of the future]
 +
 +
== Методические рекомендации преподавателю ==
 +
# При подготовке курса заручиться поддержкой экспертов, убедиться что они готовы предоставить необходимые данные в нужный срок. Согласовать с экспертами предполагаемые темы задач.
 +
# Заручиться поддержкой консультантов, с каждым из них на основе предоставленного списка задач договориться о желаемой теме исследования.
 +
# Разработать структуру курса: разбить весь объем работ на недельные этапы, соответствующие основным этапам выполнения исследования и написания статьи; создать расписание с планами лекций и домашними заданиями.
 +
# Для обеспечения взаимодействия студентов и консультантов:
 +
#* определить роль консультантов в рамках каждого пункта плана курса,
 +
#* убедиться, что консультанты понимают какие результаты ожидаются по каждой подзадаче,
 +
#* дать четкие критерии оценивания студенческих работ.
 +
# В ходе курса проводить занятия с группой, обеспечивая студентам необходимую базу знаний и задавая общее направление работ.
 +
# Знакомить студентов с  основными принципами написания научного текста: согласно плану курса, на лекциях приводить примеры написания основных разделов научной статьи.
 +
# Уделять часть лекции разбору домашних заданий.  При разборе систематизировать распространенные ошибки.
 +
# Собирать анкеты-рефлексию с целью понять
 +
#* всем ли ясна поставленная задача или текущий этап работы,
 +
#* сколько времени в среднем уходит на выполнение каждого этапа работы,
 +
#* основные сложности, возникающие у студентов при выполнении заданий,
 +
#* насколько эффективен процесс консультирования в каждой паре студент-консультант.
 +
# Организовать презентации студенческих работ в ключевые этапы написания работ: краткое описание задачи и предполагаемых путей решения в начале семестра, анализ первичных результатов вычислительного эксперимента в середине и финальный отчет-презентацию проделанной работы в конце семестра.
 +
# NB [https://en.wikipedia.org/wiki/Classical_unities The classical unities or Aristotelian unities, or three unities]
 +
 +
== На лекциях, заметки преподавателю (устарело) ==
 +
* 1 лекция: вводная, плюс показ инструментов.
 +
* 2 лекция: введение в Матлаб (общий рассказ о роли Матлаба в программировании) / проверить как поставился софт.
 +
* 3 лекция: структура научной статьи, плюс легкие задачи на программирование / проверить ДЗ2 + конструкции Матлаб и ТеХ.
 +
* 4 лекция: проверка и обсуждение написанного кода (все работы)
 +
* 5 или 6 лекция: постановка задач.
 +
Резюме. Сократить материал не получается даже для ровной группы, курс стабилизировался.
 +
 +
* технология работы над статьей,
 +
* способы постановки задач в ML (третье занятие),
 +
* формулировка теорем и оформление доказательств (откуда берутся и зачем нужны теоремы) ,
 +
* полнота материла (сколько материала необходимо дать, чтобы работу понимал не только автор, но и читатель),
 +
* построения предложений (собрать список неудачных фраз) (сделано),
 +
* типографика в <tex>\TeX</tex> (сделано),
 +
* написание рецензий,
 +
* написание заявок на гранты,
 +
* перевод на английский язык,
 +
* международные доклады,
 +
* [http://www.bowker.com/index.php/supportfaq-doi/346-faqs-doi-general#04 пример работы DOI]:[http://dx.doi.org/10.1016/j.camwa.2010.03.021 10.1016/j.camwa.2010.03.021] (Penalty ~ $270).
 +
*[http://www.crossref.org/guestquery/  locate a DOI]
 +
 +
=== NB лекционные заметки о карьере ===
 +
 +
Карьера:
 +
# Академическая (исследования и преподавание)
 +
# Промышленная (исследования и разработки)
 +
# Финансовая (анализ и разработки)
 +
# Управление (анализ и принятие решений)
 +
[[Категория:Учебные курсы]]
 +
 +
 +
==== Поиск работы и карьера исследователя в академии и на производстве ====
 +
* [https://www.jobs.ac.uk/media/pdf/careers/resources/how-to-write-a-cover-letter-for-research-jobs.pdf Cover letter]
 +
==== Рекомендация от научного руководителя для дальнейшего обучения и стипендий ====
 +
* [https://sourceforge.net/p/mlalgorithms/code/HEAD/tree/Examples/Recommendations/ Примеры рекомендаций]
 +
 +
== История развития курса ==
 +
Данный курс является первой частью цикла
 +
# [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)|Численные методы обучения по прецедентам]]
 +
# [[Автоматизация и стандартизация научных исследований (практика, В.В. Стрижов)|Автоматизация и стандартизация научных исследований]]
 +
# [[Отчет о выполнении исследовательского проекта (практика, В.В. Стрижов)|Выполнение исследовательских проектов]]
 +
# [[Руководство исследовательскими проектами (практика, В.В. Стрижов)|Руководство исследовательскими проектами]]
 +
и подготовкой к основному теоретическому курсу
 +
Ранние версии:
 +
* [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Версия 2010|версия этой страницы 2009—2010]],
 +
* [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Версия 2013|версия этой страницы 2010—2013]].
 +
 +
=== Шаблон статьи для сайта ML ===
 +
<pre>'''Название проекта''' и его аннотация, не более 600 символов
 +
== Постановка задачи ==
 +
 +
== Описание алгоритма ==
 +
И другие разделы
 +
 +
== Смотри также ==
 +
* Полный текст этой работы [https://mlalgorithms.svn.sourceforge.net/svnroot/mlalgorithms/electricity%20forcasting/doc/Dzhamtyrova10forecasting.pdf PDF]
 +
* Ссылка на код [https://mlalgorithms.svn.sourceforge.net/svnroot/mlalgorithms/electricity%20forcasting/doc/Dzhamtyrova10forecasting.pdf PDF]
 +
 +
== Литература ==
 +
{{Задание|Иван Иванов|В.В.Стрижов|24 декабря 2010|Ivanov|Strijov}}
 +
[[Категория:Практика и вычислительные эксперименты]]
 +
</pre>
 +
 +
=== Журнал [[Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Машинное обучение и анализ данных|«Машинное обучение и анализ данных»]] ===
 +
[http://jmlda.org/?page_id=35 Начиная с весны 2011 избранные работы по этому курсу публикуются в специальном журнале]. Цель журнала — развитие методов проведения вычислительных экспериментов в области машинного обучения и интеллектуального анализа данных.
 +
* [http://strijov.ru/uploads/ThePractice2010MIPT.pdf Пилотный выпуск, 2010]
 +
* [[Media:JMLDA2011no1.pdf|Номер 1, Май 2011]]
 +
* [[Media:JMLDA2011no2.pdf|Номер 2, Декабрь 2011]]
 +
* [[Media:JMLDA2012no3.pdf|Номер 3, Май 2012]]
 +
* [[Media:JMLDA2012no4.pdf|Номер 4, Декабрь 2012]]
 +
 +
=== Черновики простых задач по глубокому обучению ===
 +
 +
* Выборки: используются те, которые часто встречаются в статьях, легко скачать.  Желательно, чтобы они выкачивались питоновскими пакетами автоматически.
 +
*# Boston:  есть код загрузки в sklearn: http://scikit-learn.org/stable/modules/generated/sklearn.datasets.load_boston.html
 +
*# MNIST: есть код загрузки в TensorFlow (https://www.tensorflow.org/versions/r1.2/get_started/mnist/pros#load_mnist_data),  Keras (https://keras.io/datasets/#mnist-database-of-handwritten-digits)
 +
*# CIFAR-10: есть код в TensorFlow (https://github.com/tensorflow/models/tree/master/tutorials/image/cifar10/), Keras (https://keras.io/datasets/#cifar10-small-image-classification)
 +
*# Celeb-A: набор лиц знаменитостей с 40 булевыми атрибутами для каждого лица, выборка достаточно часто упоминается в работах по GAN http://mmlab.ie.cuhk.edu.hk/projects/CelebA.html
 +
*# Frey Faces: игрушечный датасет с лицом одного человека, часто используется в статьях по генеративным моделям https://cs.nyu.edu/~roweis/data.html
 +
*# Текстовые корпусы из nltk, выкачиваются в одну команду https://www.nltk.org/book/ch02.html
 +
* По задачам:
 +
*# В работе по GAN'ам (https://arxiv.org/pdf/1709.06548.pdf) был очень простой эксперимент на паре выборок <картинки из MNIST, транспонированные картинки из MNIST>, где сеть училась делать транспонирование, при этом задача рассматривалась как semi-supervised. Можно попробовать изучить, какое количество объектов потребуется простому автокодировщику, чтобы выучить операцию транспонирования.
 +
*# В статье (https://omoindrot.github.io/triplet-loss) рассматривались различные подходы к Metric Learning на основе триплетов. Можно провести сравнение стратегий Hard triplets, Easy triplets, Semi-hard triplets и случайных триплетов для какой-нибудь выборки. Результатом может быть визуализация, схожая с последним графиком из статьи.
 +
*# В работе (https://arxiv.org/pdf/1711.00464.pdf) рассматривается модификация функции потерь вариационного автокодировщика с разными коэффициентами на D_KL и ошибку реконструкции. Если коэффициент D_KL высокий - то модель хорошо работает как генеративная, если коэффициент D_KL низкий, то модель лучше восстанавливает исходную выборку. Можно повторить схожий эксперимент с лицами, получится наглядный график, как Figure 4 из статьи.
 +
*# Можно обучить модель перевода или что-то похожее на Seq2Seq: https://blog.keras.io/a-ten-minute-introduction-to-sequence-to-sequence-learning-in-keras.html  Интересно было бы посмотреть как меняется перевод при снижении количества параметров.
 +
*# Есть простой пример посимвольной генерации текста на Keras: https://github.com/keras-team/keras/blob/master/examples/lstm_text_generation.py Здесь можно поэкспериментировать с температурой при генерации.
 +
=== Система анкетирования ===
 +
* [https://www.youtube.com/watch?v=_N5zhAipVn0 Построение таблицы результатов]
 +
 +
 +
[[Категория:Учебные курсы]]

Revision as of 19:07, 3 January 2020

New page


Template:TOCright


Contents

Введение

Моя первая научная публикация — практические занятия, посвященные изучению методов научной работы и выполнения исследовательских проектов в области машинного обучения и анализа данных. Задачей студентов является исследование свойств моделей и алгоритмов прогнозирования. Целью работы является написание научной статьи с элементами новизны с последующей подачей в рецензируемый научный журнал. Студенты изучают методы планирования исследований, технику написания научных статей и проведения вычислительных экспериментов.

Работа включает следующие этапы: сбор и анализ литературы, математическая постановка задачи, описание метода решения задачи и исследование его свойств, проведение вычислительного эксперимента. Каждому студенту предлагается персональная тема, по которой он анализирует публикации отечественных и зарубежных исследователей за последние годы, ставит задачу и делает доклад для группы о полученных результатах. Далее выполняется математическое описание метода, делается промежуточный доклад о состоянии работ. Последним шагом работы становится вычислительный эксперимент, иллюстрирующий свойства метода и использующий синтетические или реальные данные. Каждая статья рецензируется, работы синхронизируются на сайте SourceForge.org, проект «MLAlgorithms» или на сайте [GitHub.org GitHub], организация Intelligent-Systems-Phystech.

Цели: aбстрактная — научиться точно, ясно, красиво излагать свои и чужие идеи; конкретная — написать научную статью, которая была бы принята другими исследователями, работающими в нашей области; сделать доклад. Результат: научная статья, поданная в рецензируемый журнал из списка ВАК.

Элементы цикла и полезные страницы

Prerequisites

Course-related materials in English

Задачи

Ссылка на страницу курса Описание
Группы 774, 794, весна 2020 Моя первая научная статья, участвуют студенты, консультанты, эксперты
ФУПМ, весна 2020 Машинное обучение, семинары
Группа 674, весна 2020 Математические методы прогнозирования
ФУПМ, осень 2019 Машинное обучение, семинары
Группа 574, осень 2019 Выбор моделей и мультимоделирование в машинном обучении, семинары
Группа 674, осень 2019 Баейсовский выбор моделей, лекции и практика
Группа 674, весна 2019 Моя первая научная публикация, участвуют студенты, консультанты, эксперты
Группа 694, весна 2019 Моя первая научная публикация, участвуют студенты, консультанты, эксперты
Группа 574, весна 2019 Математические методы прогнозирования, разбор фундаментальных понятий в современных задачах машинного обучения
ФУПМ, ФРТК, осень 2018 Моя первая научная публикация, участвуют студенты, консультанты, эксперты
Группа 574, осень 2018 Математические методы прогнозирования, эссе с постановками задач
Группа 474, осень 2018 Байесовский выбор моделей машинного обучения, Александр Александрович Адуенко
Группа 574, весна 2018 Моя первая публикация в журнале ВАК, участвуют эксперты, индивидуальные консультанты, студенты
Группа 594, весна 2018 Моя первая публикация в журнале ВАК, участвуют эксперты, индивидуальные консультанты, студенты
Группа 474, весна 2018 Постановка задач машинного обучения, эссе
Группа 474, осень 2017 Построение эксплуатируемых моделей
Группа 274, осень 2017 Лекции на актуальные темы машинного обучения
Группа 474, весна 2017 Моя первая публикация в журнале ВАК, участвуют эксперты, индивидуальные консультанты, студенты
Группа 374, весна 2017 Постановка задач машинного обучения, эссе
Группа 374, осень 2016 Построение эксплуатируемых моделей
Группа 274, осень 2016 Структурное обучение: порождение и выбор моделей
Группа 174, осень 2016 Лекции на актуальные темы машинного обучения
Группа 374, весна 2016 Моя первая публикация в журнале ВАК, участвуют эксперты, индивидуальные консультанты, студенты
Группа YАД, весна 2016 Моя первая публикация в журнале ВАК, участвуют эксперты, индивидуальные консультанты, студенты
Группа 274, весна 2016 Построение моделей в машинном обучении
Группа 274, осень 2015 Построение эксплуатируемых моделей
Группа 074, осень 2015 Лекции на актуальные темы машинного обучения
Группа 274, весна 2015 Моя первая публикация в журнале ВАК, участвуют эксперты, индивидуальные консультанты, студенты
Группа YАД, весна 2015 Моя первая публикация в журнале ВАК, участвуют эксперты, индивидуальные консультанты, студенты
Группа 174, весна 2015 Планирование научных исследований
Группа 174, осень 2014 Построение эксплуатируемых моделей, задачи из индустриальных и академических источников
Группа 974, осень 2014 Лекции на актуальные темы машинного обучения, эссе, практика на языке Mathematica
Группа 174, весна 2014 Моя первая публикация в журнале ВАК. Участвуют эксперты, индивидуальные консультанты, студенты
Группа 074, весна 2014 Эссе: краткие постановки задач и анализ
Группа 974, весна 2014 Курс "Программная инженерия", лектор Л.Е. Карпов
Группа 274, весна 2014 Подготовка к собеседованию студентов, поступающих на Кафедру интеллектуальных систем
Группа 074, осень 2013 Построение эксплуатируемых моделей и проведение вычислительного эксперимента
Группа 874, осень 2013 Лекции на актуальные темы машинного обучения, эссе, практика
Группа 074, весна 2013 Моя первая публикация с кросс-рецензированием
Группа 974, весна 2013 Технический отчет с учетом формальных требований к дипломной работе
Группа 974, осень 2012 Тематическое моделирование: публикация в журнале ВАК
Группа 774, осень 2012 Лекции на актуальные темы машинного обучения, эссе, практика
Группа 974, весна 2012 Моя первая публикация с кросс-рецензированием
Группа 874, весна 2012 Публикация в журнал JMLDA с кросс-рецензированием и четырьмя докладами
Группа 674, осень 2011 Трехкомпонентные расширенные эссе. Впоследствии работы были опубликованы
Группа 874, осень 2011 Публикация в журнале JMLDA
Группа 874, весна 2011 Моя первая публикация в журнале JMLDA
Группа 774, весна 2011 Руководство исследовательскими проектами: каждый участник одновременно является руководителем и исполнителем
Группа 574, осень 2010 Пишем статью с кодом на machinelearning.ru
Группа 774, осень 2010 Решение прикладных задач с отчетом в виде статьи на machinelearning.ru
Группа 774, весна 2010 Примеры использования классических методов машинного обучения в виде статьи на machinelearning.ru
Группа 674, весна 2010 Сравнение и анализ ПО для анализа данных в виде презентации
Группа 674, осень 2009 Решение прикладных задач с отчетом в виде статьи на machinelearning.ru
Группа 674, весна 2009 Примеры использования классических методов машинного обучения в виде статьи на machinelearning.ru
Группа 474, осень 2009 Библиотеки алгоритмов анализа данных на сайте SF.net
Группа 374, осень 2008 Четыре практических задания
Группа 274, осень 2007 Пять практических заданий
Группа 175, осень 2006 Упражнения в продолжение лекций


План работы

  1. Найти и описать данные. Составить список литературы, собрать публикации в bib-файл. Сделать заголовок статьи: название, аннотация.
  2. Написать введение: обзор методов решения задачи, описание предлагаемого подхода в целом. Сделать обзор литературы.
  3. Поставить задачу, описать новизну подхода, сделать черновик решения задачи.
  4. Визуализировать данные, описать полученные рисунки.
  5. Поставить вычислительный эксперимент, получить первые базовые результаты.
  6. Описать предлагаемый подход в деталях.
  7. Завершить вычислительный эксперимент.
  8. Описать результаты вычислительного эксперимента.
  9. Критически сравнить результаты, проанализировать метод.
  10. Скорректировать статью, последовательность изложения с учетом замечаний рецензента.
  11. Скорректировать теоретическую части статьи.
  12. Скорректировать согласованность статьи. Результатом должна являться рукопись, доступная для понимания.
  13. Подготовить материалы вычислительного эксперимента к публикации. Отделить код от автора.
  14. Выбрать журнал, подать статью в журнал.
  15. Сделать доклад для группы и на научной конференции.

Роли

Студент хочет научиться ставить задачи формально, находить нужную литературу, порождать новые и актуальные идеи и решения задач, доносить свои идеи до коллег.

Консультант, руководитель помогает студенту в пользовании инструментами, отвечает на вопросы по специальности, консультирует выполнение работ, оперативно реагирует на проблемы, проверяет (в среду) результаты, ставит оценки. Предполагается, что консультант сам пишет работу-спутник по этой теме. В конце работы могут быть объединены или выполнены и опубликованы параллельно. По возможности, рекомендуется организовать правки текста студента с целью улучшить стиль изложения таким образом, чтобы студент вносил правки самостоятельно. Возможно, при очной встрече или по скайпу.

Эксперт: поставщик задачи, владелец данных, либо тот, кто гарантирует новизну и актуальность работы.

Содержание отчета о курсе

Отчет состоит из следующих материалов:

  1. научная статья,
  2. исходный код алгоритма,
  3. рецензия на работу,
  4. доклад, видео и слайды презентации.

Консультации и оценивание

  1. Работы сдаются в течение недели.
  2. Желательна итеративная сдача работ, начинать показ лучше в выходные.
  3. Дедлайн последней версии работы: среда 6:00am.
  • Каждый этап работ + 1 балл по системе (А--, А-, А, А+, А++),
  • Недельное опоздание дает - =1/4 балла.
  • Несделанная работа - 0.
  • Мотивированный перенос работы отменен.

Домашние задания

Замечание для консультантов: нижеперечисленные пункты Домашних заданий являются критериями оценки качества работы.

Домашнее задание 1: инструменты

  1. Верстка. Поставить систему верстки TeX: MikTeX для Windows, TeX Live для Linux и Mac OS или зарегистрироваться на V2 OverLeaf ShareLaTeX.
  2. Поставить текстовый редактор, например TeXnic Center или его вариант WinEdt для Windows, TeXworks для Linux.
  3. Загрузить шаблон статьи, ZIP и скомпилировать.
  4. Прочитать про BibTeX.
  5. Поставить библиографическую систему JabRef (для тех, кто пишет научную статью).
  6. Обмен информацией. Зарегистрироваться в репозитории открытого кода GitHub.
    • Важно: адрес и логин должен иметь вид Name.Surname или Name-Surname (зависит от соглашений системы).
    • Вводные слайды по Version Control System.
    • Основная информация о GitHub.
    • Первые шаги в GitHub.
  7. Скачать программу-оболочку для синхронизации кода: Desktop.GitHub, посмотреть как использовать командную строку для синхронизации.
  8. Зарегистрироваться на сайте MachineLearning.ru. Для этого послать логин координатору (по умолчанию это староста группы) или по адресу mlalgorithms@gmail.com.
  9. Для тех, кто пишет постановку задачи (эссе) внутри ноутбука пример на MathJax.
  10. Поставить Hangouts, Skype, прочитать соглашение.
  11. Программирование. Поставить Python Anakonda, PyCharm (вариант Visual Studio), ноутбук онлайн Google.Colab.
    • Разработка в области ML: Pytorch
    • Стилевое оформление: Codestyle pep8
  12. Дополнительно. В качестве альтернативных языков программирования поставить Matlab (вариант Octave), R-project, Wofram Mathematica.
  13. Дополнительно. Начать читать книгу Кутателадзе С. С. Советы эпизодическому переводчику и книгу Сосинский А. Б. Как написать математическую статью по-английски.

Материалы по домашнему заданию

Литература для догоняющих

Анкеты

Домашнее задание 2: пробное программирование

Задачи нужны, чтобы почувствовать как строится базовый эксперимент.

  1. Выбрать одну из задач
  2. Создать папку Surmame2015ProblemN (Ваша фамилия, год, "Problem", N — номер задачи) в репозитории https://github.com/Intelligent-Systems-Phystech/StartCode.
  3. Сохранить туда документированный код и графики c пояснениями.
    • К документации кода приложить короткую аннотацию c целью эксперимента, принцип решения и полученный (на графике) результат.
    • Важно! Пожалуйста, не сохраняйте туда файлы с данными. Они есть в открытом доступе.
  4. Графики оформлять в соответствии с рекомендациями.
  5. Предлагается руководствоваться стилевыми рекомендациями (в частности, назвать первый файл main или demoTitle).
  6. Подготовить доклад, используя аннотацию и единственный график. Его продолжительность не более 45 секунд (в такое небольшое время уложиться непросто, доклад рекомендуется отрепетировать, лучшие графики приглашаются к докладу на семинаре).
  • Совет по выполнению: найдите решение задачи в лекциях, сформулируйте постановку и решение в формулах (в терминах задачи оптимизации) на бумаге, введенные обозначения и решение перепишите в виде кода.


Для справки: примеры ранее выполненных работ.

  • В Problem1 отчет генерируется автоматически в формате html. Не хватает описания рисунков.
  • В Problem7: код документирован, результаты визуализированы, папка содержит файл Report с описанием процедуры решения задачи. Не хватает: краткого отчета о полученных результатах, описания рисунков (что изображено? что это значит?). Комментарии к коду желательно писать на английском. Оформление рисунков: сравнить fig1 и fig2.
  • В Problem15: код документирован, результаты визуализированы, рисунки оформлены в соответствии с требованиям JMLDA/Fig, папка содержит файл Report с описанием процедуры решения задачи. Не хватает: краткого отчета о полученных результатах, описания рисунков.

Дополнение для группы 694

  • На синтетической выборке или выборке из пробных задач построить график зависимости ошибки от числа добавленных признаков. Сделать на обучении и контроле с указанием дисперсии. Дисперсию считать по ошибкам на дополнительных разбиениях выборки. Указать принцип добавления признаков (например, согласно наибольшему убыванию ошибки). Подсказка: то, что было на доске.

Материалы по домашнему заданию

Советы по пользованию репозиторием

  1. Update first, Commit after (Pull first, Push after)
  2. Your own work only, no external publications
  3. No big files (put link to external datasets)
  4. No temporary nor dummy files

Прочитать, чем отличается branch от fork

Домашнее задание (те же ссылки, что и выше)

Домашнее задание 3: пробный анализ ошибки

Обоснование модели, анализ ошибки. Отвечаем на вопрос почему мы используем именно такую прогностическую модель.

  1. Для задачи из Домашнего задания 2 (или для любой новой задачи, или вот этой задачи) сделать анализ ошибки и нарисовать один график на выбор.
    • Зависимость значения ошибки и его стандартного отклонения от сложности (числа признаков) на обучении и контроле.
    • Зависимость значения ошибки и его стандартного отклонения от объема выборки на обучении и контроле.
    • Комбинация первых двух вариантов.
    • Зависимость значения ошибки и его стандартного отклонения от номера шага в итерационной процедуре.
  2. Загрузить или сделать апдейт кода и картинки в репозиторий.
  3. Дополнительно: ретвит @AutomationOf c хештегом #StartCode с графиком и его описанием дает букву.
  4. Дополнительно: составить список конференций и грантов на год вперед.

Материалы по домашнему заданию

Домашнее задание 4: кривая обучения

Запускаем нейросети на общеупотребляемых выборках. Строим график зависимости ошибки от номера итерации алгоритма оптимизации параметров модели.

  1. На ваш выбор взять выборку и тип нейронной сети. Согласовать объем выборки и сложность нейронной сети.
  2. В процедуру оптимизации нейронной сети вставить код, получающий ошибку на тестовой и контрольной выборках или воспользоваться встроенными процедурами.
  3. Для разных объемов выборки построить графики кривой обучения, показывающие различные скорости обучения.
  4. Наложить на выборку шум. Например, перемешать независимые переменные или добавить случайный шум в зависимые, на ваш выбор. Построить несколько графиков кривой обучения в условиях наложенного шума с разной дисперсией.
  5. Если графики строятся на задачах из предыдущих домашних заданий, результаты ДЗ 4 помещаются в ту же папку. Если на новой задаче, создать новую папку в том же репозитории StartCode.

Материалы по домашнему заданию

Домашнее задание A: выбор задачи, аннотация

  1. Выбрать задачу и записать свои предпочтения в анкету.
  2. Задачу надо выбрать в течение пары
  3. Распределение по проектам состоялось. Записывайтесь в таблицу Проекты: результаты.
  4. Обсудить с консультантом проект, понять цели, задачи, проблемы.
  5. Найти в организации https://github.com/Intelligent-Systems-Phystech репозиторий своего проекта или создать его с названием формата 2018-Project-N, пример.
    • Записать ссылку на репозиторий в таблицу.
    • Создать в репозитории общие папки code, data, report.
  6. Создать личную папку в репозитории проекта, название в формате Surname2018Title.
  7. Поместить файл (из ДЗ 1) с шаблоном статьи в личную папку, название в формате Surname2018Title.tex.
    • Записать ссылку на файл PDF с текстом статьи из личной папки в таблицу в формате [http Имя Фамилия].
    • Совет: копируйте ссылку как адрес кнопки Download файла PDF, который находится в репозитории.
  8. Создать документ-черновик обзора литературы формата LinkReview, поставить на него ссылку в таблицу.
  9. Рекомендуется кроме литературы заносить в LinkReview ссылки на источники данных, на код и библиотеки.
  10. Совет: создать групповой чат, поставить на него ссылку-приглашение в таблицу.
  11. Написать черновик аннотации.
  • Аннотация не более 600 символов. Строится по примерному плану:
    • чему посвящена работа в целом,
    • на чем сконцентрировано исследование,
    • в чем особенности исследования,
    • [что новое предлагается],
    • какими примерами проиллюстрирована?

Важно: код и результаты проекта общие, над изложением каждый работает сам лично в тексте рукописи. Завершенные тексты объединяются в общую рукопись для публикации.

Материалы по домашнему заданию


Лекция 1 Линейные, авторегрессионные модели

  • Пример: прогнозирование объемов потребления электроэнергии часть 1 и часть 2.

Домашнее задание B-talk: рассказ на 45 секунд о проекте

Короткий доклад о проекте и два вопроса от аудитории

План доклада:

  1. Цель проекта (чему посвящен проект, какова мотивация исследования)
  2. Центральная идея (в чем изюминка исследования)
  3. Ожидаемый результат (в чем вклад в область, вариант - в чем новизна)

В течение доклада не будет возможности показать слайд или нарисовать что-либо на доске. Рекомендуется отрепетировать доклад на время.

Домашнее задание L: сбор и чтение литературы

  1. Собрать литературу по проекту:
    1. Современные обзоры проблемы, включая tutorials
    2. Фундаментальные методы решения проблемы
    3. Базовый алгоритм решения задачи
    4. Альтернативные алгоритмы
    5. [Изменения в направлениях исследований]
    6. Выборки по задаче
    7. Статьи, ссылающиеся на выборки
    8. Выборки, похожие по структуре
    9. Применение результатов решения задачи
    10. Исследователи, решавшие задачу
    11. Их аспиранты, команды
    12. Те, кто ссылается на исследователей
    13. Те, на кого ссылаются исследователи
  2. Учесть рекомендации по времени появления публикации (сбалансировать ссылки на новые и классические работы)
  3. Подготовить, пополнять, изменять список ключевых слов
  4. Заполнить файл LinkReview
  5. Спланировать раздел Введение (оно пишется в следующем ДЗ)
    • Ключевые слова (основные термины; можно использовать те, которые дали хорошие результаты поиска)
    • Введение (около страницы); ниже — по абзацам, примерный план
    • Основное сообщение — чему посвящена работа (одна-две фразы)
    • Обзор литературы — развитие предлагаемой идеи (не более двух абзацев)
    • Современное состояние области (два-четыре абзаца)
    • Что предлагается (два абзаца)

Материалы по домашнему заданию

Домашнее задание I: общая постановка задачи, раздел Введение

  1. Cоздать файл с библиографией: ProjectN.bib для проекта или Surname2018Title.bib личный.
  2. Перенести из Файла LinkReview библиографические записи, оформив их в формате BibTeX.
    • Проверить правильность заполнения базы BibTeX (порядок написания имен авторов, тома журналов, номера страниц).
    • Совет: пользуйтесь библиографическими базами для быстрого заполнения.
    • Совет: используйте стилевой файл по умолчанию \bibliographystyle{plain} перед библиографией \bibliography{ProjectN}.
    • Важно: Википедия не является первичным источником информации (но в ней можно найти полезные ссылки).
    • Важно ArXiv не является рецензируемым авторитетным источником информации. Ищите копии работ, опубликованных в рецензируемых журналах. Если в течение года-двух после публикации в ArXiv работа не появилась в рецензируемом журнале, это может свидетельствовать о ее небрежности: работу отвергли.
  3. Написать раздел Введение. Ожидаемый размер полстраницы-страница. Примерный план:
    1. Цель исследования (мотивация исследования)
    2. Предмет исследования (вокруг чего строится исследование)
    3. Исследуемая проблема (в чем заключается сложность, что требуется сделать)
    4. Методы исследования: обзор работ, посвященных проблеме, современному состоянию исследований
    5. Решаемая в данной работе задача
    6. Предлагаемое решение
    7. Работа или работы описывающие наиболее близкие решения
    8. Анализ сильных и слабых сторон предлагаемого решения
    9. Цель эксперимента, на каких данных будет выполнен эксперимент
  4. Для себя, на черновике: составьте функциональную схему IDEF0 вашего проекта, как вы его сейчас видите.

Цель этой недели — охватить взглядом проект в целом (и кратко написать об этом). Принцип: проект любой сложности может быть сделан за неделю.

Материалы по домашнему заданию

Домашнее задание S : постановка задачи

Ставим задачу формально для того, чтобы предложить оптимальный алгоритм ее решения.

  1. Согласовать с консультантом постановку задачи. Посмотреть примеры постановок в материалах по ДЗ и в предыдущих статьях студентов этого курса.
  2. Обсудить терминологию и систему обозначений (pdf и tex-файлы со списком возможных обозначений в архиве).
  3. В разделе Постановка задачи кратко написать, в чем состоит задача в целом.
  4. Описать элементы постановки задачи:
    1. описание выборки (и, возможно, допустимые операции над элементами выборки),
    2. статистические предположения о природе выборки (гипотезу порождения данных),
    3. предположения о характере выборки (природе ее измерений),
    4. ограничения по составу выборки и значениям ее элементов,
    5. модель, ее принадлежность к классу моделей,
    6. ограничения на множество допустимых моделей,
    7. описание (и, возможно, обоснование) функции ошибки, функции потерь или иной функции качества, согласно которой будет оцениваться качество решения задачи,
    8. способы разбиения выборки,
    9. ограничения, накладываемые на решения задачи,
    10. возможно, дополнительные функции качества,
    11. оптимизационную постановку задачи в формате <tex>\arg\min</tex>,
    12. в постановке или при планировании эксперимента указать
      1. вид эксплуатируемой модели,
      2. эксплуатационную функцию ошибки.
  5. При необходимости вставить перед использованием терминов их определения: что в данной работе является моделью, ее точностью, устойчивостью, адекватностью, информативностью ее элементов, алгоритмом решения задачи.

Материалы по домашнему заданию

Домашнее задание B: описание базового алгоритма

Требуется указать базовый алгоритм и запустить его на простой синтетической выборке.

  1. Запустить базовый алгоритм.
    • Для этого вместе с консультантом найти наиболее простой алгоритм, решающий поставленную задачу (возможно, в частичной постановке).
  2. Подготовить синтетические данные (или взять несложные реальные, небольшую выборку).
  3. Запустить алгоритм на синтетических данных, вычислить ошибку.
  4. Кратко описать базовый алгоритм, проанализировать его свойства, перечислить модели-претенденты. Варианты описания:
    1. Описание - указание на название черного ящика. Желательно указывать на источник, где содержимое черного ящика описывается подробно. Указывать структурные параметры черного ящика.
    2. Описание модели как отображения из пространства описания объектов в пространство целевых переменных. При этом можно указать на алгоритм оптимизации параметров модели в виде черного ящика.
    3. Описание модели и алгоритма оптимизации его параметров в виде псевдокода.

Материалы по домашнему заданию

Домашнее задание-M-Talk: пробный доклад со слайдами

  1. Подготовить устный доклад на две минуты. Доклад отрепетировать по секундомеру. План доклада:
  • Посмотреть шаблоны презентации на русском (pdf, tex) и английском (pdf, tex) в папке Group074/Kuznetsov2013SSAForecasting/doc/.
  • Сделать презентацию по плану:
    1. Титульный лист, 1 слайд.
    2. Цели исследования, решаемая задача, используемые методы, 1 слайд.
    3. Иллюстрация проблемы, 1-2 слайда (необязательно).
    4. Литература, 1 слайд.
    5. Постановка задачи, 1-2 слайда.
    6. Теоретическая часть, 1-10 слайдов (не ожидается).
    7. Цели эксперимента, 1 слайд.
    8. Эксперимент, 1-5 слайдов.
    9. Результаты эксперимента, 1-3 слайда.
    10. Заключение: результаты, выносимые на защиту (обязательно).
  • Подготовить короткий доклад по слайдам (2-3 мин.)

Примеры докладов:

Домашнее задание D: планирование эксперимента

Распланировать базовый вычислительный эксперимент, построить синтетическую выборку, сделать описание эксперимента.

  1. Обсудить с руководителем и командой основную цель эксперимента.
    • Записать цель эксперимента в раздел "Вычислительный эксперимент"
  2. Описать базовую (синтетическую или несложную реальную) выборку:
    • указать название, источник, природу измерений,
    • указать число объектов, признаков, другие характеристики,
    • для синтетической выборки указать порождающую модель, ее параметры, условия порождения (например, случайное равномерное семплирование)
  3. Написать, в какой конфигурации запускается алгоритм.
  4. Спланировать таблицы и графики:
    • составить их список (минимальный и полный варианты),
    • записать название, что отложено по осям,
    • в черновике карандашом нарисовать предполагаемый вид графиков.
  • Совет: старайтесь загружать выборку из внешнего репозитория, чтобы эксперимент можно было удобно повторить. Если такого нет, то загрузить данные (включая одну из синтетических выборок) в свой. Согласуйте с руководителем и командой случай когда объем файла велик (например, превосходит 5 МБ), или если файлов много.

Материалы по домашнему заданию

Домашнее задание-E: анализ ошибки

Запустить базовый эксперимент, проанализировать его результаты.

Анализ ошибки в вычислительных экспериментах — это анализ изменения значений функции ошибки при изменении состава выборки (или при других изменениях условий эксплуатации модели).

Начальные требования для анализа.

  1. Задана стратегия разбиения скользящего контроля.
  2. Поставлена задача оптимизации параметров.
  3. Задан набор внешних (эксплуатационных) критериев качества модели.
  4. Для набора разбиений получен
    • набор значений векторов оптимальных параметров,
    • набор значений функции ошибки на обучении и на контроле.
  5. Получен набор значений внешних критериев на обучении и контроле.

Анализ ошибки содержит следующие базовые статистические тесты.

  1. Анализ состава выборки:
    1. анализ простоты выборки по отдельным признакам (гистограммы признаков),
    2. анализ мультикоррелированности признаков, в частности анализ корреляционных или ковариационных матриц (вычисление R2, VIF, визуализация результатов метода Белсли, в частности, при изменении состава признаков, факторного анализа),
    3. тест наличия выбросов в выборке (визуализация изменения функции ошибки при исключении выбросов),
    4. тест наличия мультимоделей (снижение ошибки при, например, использовании стратегии бустинга)
    5. оценка необходимой мощности выборки (по оси абсцисс — число объектов, по оси ординат — ошибка на обучении и ее стандартное отклонение),
    6. оценка необходимого числа признаков (по оси абсцисс — последовательно добавляемые признаки; признаки добавляются, например, по убыванию скорости изменения ошибки — т. н. ускорение и торможение ошибки)).
  2. Анализ дисперсии параметров и функции ошибки
    1. анализ стандартного отклонения функции ошибки (внутреннего критерия) и внешних критериев (в частности, визуализация ROC — обучение и контроль на каждом из разбиений),
    2. анализ изменения функции ошибки на итерациях оптимизации (ось абсцисс — итерации, ось ординат функция ошибки на обучении, контроле и ее стандартное отклонение),
    3. анализ изменения параметров и гиперпараметров модели (по оси абсцисс — итерации, по оси ординат — набор параметров, лапша и их стандартные отклонения или гиперпараметры),
    4. анализ изменения параметров и функций ошибки при из изменении структурных параметров или регуляризаторов (они по оси абсцисс, по оси ординат — не забываем о стандартном отклонении, получаемом скользящим контролем).
  3. Сложность алгоритма оптимизации функции ошибки в зависимости от объема выборки
    1. теоретическая,
    2. эмпирическая,
    3. аппроксимация эмпирической функции теоретической (по оси абсцисс — объем выборки, число признаков, число кластеров).
  4. Анализ свойств модели с помощью внешних критериев, учет возможных ограничений на параметры и структуру модели
    1. построение парето-оптимального фронта множества моделей, из которых производится выбор.

Материалы по домашнему заданию

Анализ ошибки и байесовский выбор моделей (28.03.2019)


Домашнее задание-H: анализ структуры модели

Анализ пространства параметров, гиперпараметров, структуры модели

  1. Поставить вычислительный эксперимент на реальной выборке, проанализировать структуру модели.
  2. Обсудить, что является структурным параметром, согласно которому модель выбирается из множества моделей, примеры:
    • число признаков обобщенно-линейные модели,
    • число слоев нейросети, число нейронов или параметров каждого слоя,
    • число ближайших сосетей,
    • другие параметры.
  3. Обсудить способ выбора модели:
    • с помощью алгоритмического задания структуры,
    • посредством включения структурных параметров в модель,
    • посредством включения структурных параметров в функцию ошибки,
    • наложением ограничений на функцию ошибки,
    • введением механизма релаксации элементов функции ошибки,
  4. Обсудить алгоритм выбора модели, оптимизации структурных параметров, примеры:
    • перебор из списка, заданного вручную,
    • полный перебор,
    • генетические алгоритмы,
    • оптимизация с релаксацией,
    • алгоритмы выбора признаков,
    • алгоритмы прореживания,
    • другие специальные алгоритмы.
  5. Запустить алгоритмы оптимизации
    • параметров,
    • гиперпараметров (если имеются),
    • структурных параметров.
  6. Построить сравнительную таблицу моделей на одной выборке и оптимизируемой функции ошибки.

Материалы по домашнему заданию

Домашнее задание-M: выбор модели

Обоснованная модель с известными свойствами (таблица-куб «модели-выборки-критерии»). Выбрать модель из класса моделей, сравнить модели-претенденты на различных выборках по разным критериям качества.

  1. Используя ранее полученные результаты, выбрать для анализа
    1. несколько выборок,
    2. несколько вариантов модели или алгоритмов решения задачи,
    3. критерии качества, функции ошибок.
  2. Зафиксировать способ кросс-валидации.
  3. Запустить алгоритм построения таблицы.
  4. Указать предпочтительную, в сравнении с альтернативами, модель.

Материалы по домашнему заданию

Домашнее задание-R: оформление результатов

Завершить эксперимент, создать рукопись-технический отчет для показа.

  1. При консультации руководителя собрать результаты всей команды:
    1. завершить эксперимент,
    2. собрать полученные результаты,
    3. внести таблицу с результатами в раздел Вычислительный эксперимент,
    4. написать общий вывод.
  2. Лично (если неясны буквы за выполнение ДЗ) связаться с руководителем, спросить его о своих оценках.

10 декабря - последнее занятие семестра.

Материалы по домашнему заданию

  • Анкета с вопросами по [Домашнему заданию R будет тут].

Завершение семестра и зачет

На занятии-семинаре 10 декабря будут выставлены оценки и зачет/незачет (формат определяет деканат). План проведения семинара.

  1. Группы делают доклады.
    • Слайды о проекте, общие для всей группы надо загрузить на сайт в таблицу Проекты: результаты вместе с общим текстом.
    • Совет. Приветствуется краткий рассказ о проекте на 3 минуты, 5 минут максимум, достаточно нескольких слайдов с самым главным сообщением.
    • Можно делать доклад всей группой или выбрать одного докладчика.
  2. Объявляются оценки.

Организационное.

  • Для получения зачета-минимума необходимо закрыть буквы у руководителя. Так как домашние задания строятся вокруг вычислительного эксперимента, результатом которого является таблица "модели-выборки-критерии", то советуем сосредоточить работу вокруг этой таблицы и графиков с анализом ошибки.
  • Для тех, кто хочет получить оценку побольше, учитываются анкеты, тесты, активность на занятиях (в том числе баллы за заполнение таблицы результатов и за диктант с постановкой задач не забыли), активность в гитхабе (половина оценки), и конечно, буквы за ДЗ и мнение руководителя (вторая половина оценки). Дополнительный большой балл за доклад дается всей группе.
  • Тем, кто не имеет букв, чтобы получить минимальную оценку будет дано персональное "аварийное" задание по курсу (результаты проекта группы учитываться не будут), оно будет состоять из заданий SBDEHM. Выборки, модели, критерии будут заданы. (Для студентов ФРТК в этом случае желательно присутствие зам. декана с целью анализа успеваемости. Он же определяет дедлайн.)

Аварийное задание

Выполняется в формате питон-ноутбук с кодом, выполняющим эксперимент, поясняющим текстом, графиком, и таблицей. Для тех, кто программирует на других языках, выполняется в аналогичном формате.

Отчет по заданию содержит следующие разделы и графики с комментариями, достаточными для передачи сообщения тому, кто будет читать код. Графики должны иметь подписанные оси и поясняющий текст с выводом - результатом анализа.

  1. Цель вычислительного эксперимента
  2. Описание выборок
  3. Блок загрузки и предобработки выборок
  4. График анализа состава выборки:
    1. анализ выбросов, гистограмма
    2. анализ пропусков, статистика
    3. анализ мультикорреляции признаков, кор. матрица
  5. Список моделей
  6. Список функций ошибки, критериев качества
  7. Способ разбиения выборки на обучение-контроль (выбрать)
  8. Таблица модели/выборки/критерии качества на разбиении со стандартным отклонением
  9. Анализ выбранной модели на разбиении обучение-контроль
    1. График зависимости функции ошибки от значения структурного параметра со ст. откл.
    2. График зависимости функции ошибки от объема выборки со ст. откл.
    3. График скорости сходимости функции ошибки (зависимости функции ошибки от номера итерации оптимизационного алгоритма) со ст. откл.

Задание имеет вид: решить задачу (классификации, регрессии, кластеризации) на выборках (список выборок и синтетическая выборка) с использованием моделей (список) со структурными параметрами (список), критерии качества (список).

Аварийное задание является персональным, высылается по почте. Результаты выполнения загружаются в проект StartCode в папку YourName2018LateProblemN. После того как задание загружено, сообщите об этом, заполнив анкету.




Полезные ссылки


Домашнее задание BR: запуск базового алгоритма, отчет о запуске

    1. Показать на элементарном графике, что получен адекватный результат. См. оформление графиков.
  2. Написать мини-отчет о полученных результатах, полстраницы. Он включает:
    1. Краткое описание цели эксперимента.
    2. Краткое описания способа порождения выборки или краткое описание природы реальных данных (см. например, Bishop C.P. Pattern recognition and machine learning, 2006. Pp. 677-683).
    3. Краткое описание графика и комментарий полученных результатов.
  3. Постановку задачи и отчет поместить в текст статьи. Данные и код — в папки data, code.


  1. Выбрать задание, записать название, автора и рецензента (с его согласия) в таблицу (см. группа 174, весна 2014).
  2. Создать папку с названием проекта Surname2015Title в папку группы MLAlgorithms/Group274/. Создать там папки (doc, code,...), поместить в папку doc шаблон-заготовку статьи. См. раздел "Работа с репозиторием".
  3. Просмотреть/прочитать литературу, написать краткие авторефераты и вставить их во введение.
  4. На странице группы в колонке "Ссылка" поставить ссылку на папку и на PDF-файл статьи. Например folder, text, slides.


Домашнее задание CV: планирование и начальная поставновка эксперимента, визуализация

  1. Подготовить данные, объявленные в проекте. Загрузить их в репозиторий (в случае, если объем файла превосходит 5 МБ, или если файлов много, согласовывать это с консультантами).
  2. Описать цели вычислительного эксперимента, составить план эксперимента, описать данные.
  3. Описать дополнительные критерии качества модели и ограничения, если таковые имеются.
  4. Описать анализ ошибок, перечислить сравниваемые методы.
  5. Составить список графиков для визуализации результатов, описать графики.
  6. Выполнить вычислительный эксперимент в начальном варианте (на синтетических, и если возможно, реальных данных) и нарисовать графики. Коллекция графиков, ассорти[4], версия для загрузки слайды, PDF.

Домашнее задание-T: теоретическая часть

  1. Написать решение поставленной задачи
    1. в простом варианте
    2. в деталях, насколько это возможно.
  2. Сравнить написанное решение с кодом, откорректировать код и решение.


Домашнее задание-D: документ в целом

План научной статьи

  • Название
  • Аннотация (пишется в первую очередь и переписываются при завершении работ): изложение краткого содержания и основных результатов (не более 600 знаков)
  • Ключевые слова (основные термины; можно использовать те, которые дали хорошие результаты поиска)
  • Введение (около страницы); ниже — по абзацам, примерный план)
    • Основное сообщение — чему посвящена работа (одна-две фразы)
    • Обзор литературы — развитие предлагаемой идеи (не более двух абзацев)
    • Современное состояние области (два-четыре абзаца)
    • Что предлагается (два абзаца)
  • Постановка задачи (примерно страница)
    • Дано (как устроена выборка)
    • Предполагается, что (статистические гипотезы, гипотезы порождения данных)
    • Ограничения и другие предположения о характере данных
    • Функционал или критерий качества искомой модели, решения (часто вытекает из гипотезы порождения данных)
    • Дополнительные требования (разбиения выборки, скользящий контроль, требования к мультиколлинеарности и подобное)
  • Решение: математическая часть (тут название первого раздела)
    • Описание алгоритма
    • Исследуемые свойства алгоритма
  • Другие разделы (если есть)
  • Решение: алгоритмическая часть (часто уходит в следующий раздел)
  • Вычислительный эксперимент
    • Описание задачи, кратко
    • Описание данных, достаточное, чтобы воспроизвести эксперимент самостоятельно
    • Описание алгоритма или ход эксперимента
    • Описание полученных результатов
    • Выводы, сравнение результатов, полученных альтернативным путем
  • Заключение (пишется в последнюю очередь): сжатое изложение результатов (1/4 страницы)
    • Желательно вставить ссылку на mlalgorithms/ваша_папка для того, чтобы другие исследователи могли проверить результаты или использовать их в дальнейшей работе.
  • Литература: опорные статьи за последние 10 лет, максимально покрывающие тематику (не менее 20 статей)
    • Литература должна у вас уже быть по результатам доклада-1 (даже если она не вся указана во введении, пожалуйста, приведите полный список)
    • Совет: используйте команду TeX \nocite{*} при выводе из файла bbl для получения полного списка.

План технического отчета

  • Аннотация: изложение краткого содержания и основных результатов (не более 600 знаков).
  • Введение: раскрытие темы статьи, общая постановка задачи, обзор литературы, описание подхода к решению задачи.
  • Постановка задачи: полная формальная постановка, введение обозначений, принятие необходимых гипотез, задание функционалов качества.
  • Описание алгоритма (возможно несколько разделов): математическое описание предлагаемого алгоритма, исследование его свойств, доказательство необходимых теорем.
  • Вычислительный эксперимент: описание исходных и производных данных, описание технической части алгоритма (если необходимо), описание результатов, сравнение их с результатами других алгоритмов; крайне желательны иллюстрации.
  • Заключение: сжатое изложение результатов (1/4 страницы).
  • Список литературы: желательно найти опорные статьи за последние 10 лет, максимально покрывающие тематику.


Домашнее задание-W: рецензирование

Работы 3-6 делает рецензент. Работы 1-2 делает автор.

  1. Собрать документ статьи для рецензирования.
  2. Договориться с рецензентом.
  3. Поставить фамилию рецензента в таблице на странице группы.
  4. Рецензенту: написать отзыв на работу. В качестве образца использовать рецензии из папки ArticleReviews. Рецензия не обязательно содержит описание рецензируемой работы, но содержит мнение рецензента о новизне, актуальности и обоснованности работы, а также список ошибок, недочетов и замечаний, призванных улучшить качество статьи.
  5. Рецензию выложить в папку автора работы. Формат произвольный (.pdf, .txt, .doc).
  6. Ссылку на рецензию вставить после фамилии рецензента.

Рецензент проверяет следующие критерии

  1. Ясность основного сообщения, наличие единого объекта исследования
  2. Точность терминов, связность изложения
  3. Стандартность, непротиворечивость и ясность обозначений
  4. Соответствие цели и содержания эксперимента поставленной задаче
  5. Полнота анализа ошибки
  6. Повторяемость эксперимента:
    1. основной алгоритм восстанавливается из математического описания или из псевдокода без помощи автора,
    2. код читается легко, есть его описания, основной модуль легко найти, он запускает базовый вариант эксперимента,
    3. в статье есть ссылка на код и на выборку

Шаблон рецензии Surname2018Title_Review.rtf. Примеры рецензий, которые обсуждались на лекции, находятся здесь.

При рецензировании кода

  • Рецензент
    • в статье на ML ставит пометки \footnote{Замечание к статье}.
    • в файлах-исходниках ставит пометки % FIXIT Замечание к коду.
  • Автор
    • В статье вносит требуемые исправления и снимает пометки \footnote{Замечание к статье}.
    • В файлах-исходниках вносит требуемые исправления и исправляет пометки % FIXIT на %FIXED.

Соглашение о комментировании Приняты следующие комментарии, добавляемые в код при его проверке: <source lang="matlab"> % FIXIT - желательно изменить код (улучшить структуру кода или устранить ошибку), % FIXED - устраненные ошибки или улучшенный код, % NOTE - комментарий для обмена мнениями, % TODO - желательно выполнить работу. </source>


Рецензент отвечает за качество работы, но должен быть благожелателен к исполнителю. Критерий качества работы: рецензент с удовольствием готов использовать рецензируемую работу для решения своих задач.

Домашнее задание J

Список журналов для подачи студенческих работ

Тема Unit-test

TODO

Подготовка к экзамену

Экзамен будет проходить в виде доклада. Продолжительность 5-10 минут и три дополнительные минуты на вопросы. Цель — показать, что результаты работы понятны специалисту, и могут быть им использованы в дальнейшем. Под специалистами понимаются ваши одногруппники и преподаватели кафедры.

Во время презентации требуется:

  • Поставить задачу
  • Осветить основные принципы работы алгоритма (кратко, без деталей)
  • Описать интерфейсы модулей алгоритма
  • Показать работу алгоритма на примерах
  • Проанализировать свойства алгоритма

На презентации нужны:

  • Отчет
  • Код на sourceforge.net

Советы:

  1. Подготовьте доклад с секундомером в руках
  2. Расскажите его другу, ответьте на его вопросы

На экзамене оценивается:

  1. Корректность математической постановки задачи
  2. Полнота описания алгоритма
  3. Продуманность интерфейсов
  4. Соответствие стандартам программирования
  5. Ясность изложения результатов
  6. Глубина анализа свойств алгоритма
  7. Качество рецензирования (чужой работы)


Разработка алгоритма Основные приемы программирования — на лекции.

Работа с репозиторием В репозитории MLAlgorithms должны лежать следующие файлы и папки:

  • папка — название проекта,
  • папка doc с документацией и со статьей (обязательно хранить там .pdf, .tex, финальные версии рисунков .eps/.pdf; удалять все временные файлы),
  • папка code с кодом проекта,
    • в этой папке выделить файл, который нужно запустить, чтобы посмотреть отчет, например demoProjectName.mat,
  • папка data с данными по проекту (исходными и производными в .mat),
  • (необязательно) папка report c промежуточными рисунками (рисунки и черновики отчетов вместе с кодом хранить нежелательно),
  • не следует хранить чужие статьи в репозитории; их удобнее хранить в базе Mendeley.

На сайте machinelearning.ru находится только вводная часть и ссылки на код и на статью. Ниже приведен шаблон, который следует скопировать и вставить в создаваемую статью. 

'''Название проекта''' и его краткая аннотация, не более 600 символов
== Постановка задачи ==
Не более 1/2 стр. 
== Пути решения задачи ==
Не более 1/2 стр. 
== Смотри также == 
* [http://example.com/ Ссылка на текст статьи]
* [http://example.com/ Ссылка на код]
== Литература ==
{{Задание|Иван Иванов|В.В.Стрижов|24 декабря 2010|Ivanov|Strijov}}
[[Категория:Практика и вычислительные эксперименты]]

Полезная информация:

Вычислительный эксперимент

Вычислительный эксперимент состоит следующих шагов:

  1. Порождение модельных данных или загрузка реальных данных
  2. Предобработка данных (если требуется)
  3. Визуализация данных (если требуется)
  4. Выполнение алгоритма, получение результатов
  5. Визуализация результатов
  6. Исследование свойств алгоритма
  7. Выводы


Справочные материалы

Политика

  1. Списывание (то есть цитирование) приветствуется; использование чужого кода приветствуется вдвойне. При этом следует корректно указывать оригинального автора. Цитаты следует заключать в кавычки, например: «Мера~--- превыше всего»~\cite{Gasparov2004Greece}.
  2. Изобретать велосипед грешно; усовершенствовать почетно.
  3. Результат важнее процесса.

Правила оформления научных работ

Совет. Прежде, чем показать свою работу, проверьте орфографию и пунктуацию. Формулы (в том числе и выключенные) являются частью системы пунктуации. Сверяйтесь с хорошими образцами!

Список обозначений

Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Рекомендуемые обозначения

Необходимые программы

  • MiKTeX… typesetting beautiful documents… Basic MiKTeX 2.8" Installer[6]
  • LaTeX editors WinEdit[7] OR TeXnicCenter[8]
  • JabRef, an open source bibliography reference manager[9]
  • SciLab, the Free Platform for Numerical Computation[10]
  • Русский словарь для редактора WinEdit ZIP, [1,53Мб], записать в папку C:\Program Files (x86)\WinEdt Team\WinEdt\Dict
  • InkScape, графический редактор с экспортом в LaTeX сайт и пример использования

Руководства по ТеХнической части

  • Custom Export для JabRef
  • Для конвертации LaTeX-исходников в формат MS Word использовать GrindEQ (первые 10 запусков бесплатны)

Полезные материалы и ссылки

Советы

"Можно ли невозбранно цитировать материалы Википедии" "Как избежать плагиата"

Организационные материалы

Для чтения: Как публиковаться в выскоимпактных журналах? Цитата: "исследователи, успешно публикующиеся в журналах с высоким импакт-фактором, пишут свои рукописи на трех уровнях: первый — это резюме, доступное широкому кругу читателей и содержащее основные выводы, второй — это базовый документ с основными результатами исследований для тех, кто хочет получить более подробную информацию, как именно был получен вышеозначенный результат, и третий — это приложение со всем необходимым для воспроизведения результата. Вот формат, который ждут от вас журналы вроде Science и Nature."

Как найти журнал

  • Ищем, кто публикуется по нашей теме, его базовые работы. На кого мы ссылаемся в работе.
  • Смотрим в каком журнале эти работы.
  • Смотрим какие еще работы по этой теме опубликовал этот журнал.
  • Связываем обзор литературы с этими работами.
  • Подаем туда.

Для пользователей каталога WoK

  • Ищем наиболее близкую работу
  • Строим дерево цитирования вперед и назад во времени
  • Теоретически ссылки должны замыкаться, но сейчас это происходит все реже

Как подать статью в русский журнал

Для справки: индекс цитирования (инструменты)

Журналы ВАК

Список зарубежных журналов ВАК по тематике курса


  • Журнал вычислительной математики и математической физики[16]
  • Автоматизация и современные технологии[17]
  • Проблемы машиностроения
  • Автоматика, связь, информатика
  • Интеллектуальные системы[18] (Мехмат МГУ, МАТИС)
  • Информатика и ее применения[19]
  • Информационные технологии[20]
  • Информационные технологии и вычислительные системы[21]
  • Теория вероятностей и ее применения[22] (Журнал SIAM)
  • Обозрение прикладной и промышленной математики[23] (Сайт ТВП)
  • Проблемы прогнозирования[24]
  • Заводская лаборатория[25]
  • Математическая биология и биоинформатика[26]

Замечание. Название журнала иногда слабо связано с его тематикой.

Подаем статью в редакцию

Статья написана, нужно:

  • прочитать ее громко вслух,
  • дать почитать рецензенту, получить критические замечания, доработать.

Затем переходим к формированию пакета документов.

  1. Делаем перевод названия статьи, аннотации, ключевых слов, на английский язык, внимательно вычитываем. Вставляем этот блок (название, авторы, аннотация, ключевые слова) в конец статьи.
  2. Находим подходящий УДК, ставим в первую строку, до заголовка статьи.
  3. Собираем файл tex>pdf, проверяем название: «Author2011Title.pdf» (фамилия автора и первое или ключевое слово названия статьи).
  4. Читаем раздел «Авторам, требования к оформлению статей» на сайте журнала, выполняем эти требования.
    1. Если журнал принимает статьи TeX, то посылаем файлы .pdf, .tex и .eps. Рисунки .eps должны компилироваться из одной папки со статьей, из названия должны иметь вид «Author2011Title_Fig1.eps». Если журнал предлагает стилевой файл (.sty, .cls) компилируем с ним, если не предлагаем, пользуемся по умолчанию стилем atricle.
    2. Если журнал принимает статьи MS-Word, то пользуемся конвертором LaTeX-to-Word; то, что он не сделал, дорабатываем руками. Замечание: рисунки для MS-Word лучше всего записывать не в формате .eps, а в формате .emf.
  5. Делаем файл «Сведения_об_авторах.doc‎», вписываем себя (и соавторов, если есть).
Сведения об авторах

Фамилия Имя Отчество
студент
Московский физико-технический институт
119991, ГСП-1, Москва, Вавилова д. 42, оф. 151
Тел. служебный: 8 (495) 135-4163 
Факс: 8 (495) 137-2848 
E-mail: Name.Surname@mipt.ru

Пишем письмо следующего вида и отсылаем в журнал письмо и файл-статью (файлы, если это TeX) и файл-сведения по адресу, указанному журналом. 

Тема: Новая статья [Автор И.О. Название]
 
Уважаемый [Имя Отчество главного редактора журнала]!

Прошу Вас принять к рассмотрению для публикации в журнале "[Название журнала]"
статью "[Название статьи]". Статья посвящена проблеме [выбора регрессионных 
моделей] и ранее нигде не публиковалась. 

Прилагаю статью с аннотациями на русском и английском языках, а также сведения об авторах.

С уважением,
[Имя Отчество Фамилия]
[Организация]
[телефоны для связи]

И. О. Автор, студ., Московский физико-технический институт
[Название статьи]
[Текст аннотации на русском языке]
Ключевые слова: [пять слов или словосочетаний через запятую].

N. M. Surname, Moscow Institute of Physics and Technology
[Feature selection in autoregression forecasting]
[The abstract itself]
Keywords: [keywords].

Замечание. Процесс рецензирования в некоторых журналах иногда занимает более года. После возможно отклонение статьи по разным причинам. Тем не менее, подавать одну и ту же статью сразу в несколько журналов не принято.

Работа с рецензентами

Через некоторое время (одна-две недели) автору приходит сообщение, что статья получена редколлегией и направлена на рецензирование. Если сообщение не приходит, то нужно вежливо написать или позвонить секретарю (или ответственному редактору).

Через несколько месяцев (максимум — полгода) должна прийти рецензия от одного или нескольких рецензентов. Возможны варианты.

  1. Статья принята при условии доработки с учетом замечаний рецензентов — прекрасно. Это означает, что статью внимательно прочитали и ее можно улучшить. Исправляем статью и составляем отчет о проделанной работе, который вместе со статьей отправляем в журнал. См. пример отчета.
  2. Статья будет повторно рассмотрена после доработки — хорошо, бывают такие строгие журналы. Делаем как в пункте выше.
  3. Статья принята без доработки — нормально, но к таким журналам нужно относиться осторожно, возможно, редколлегия статью детально не читала. Если это так, больше там не публикуемся.
  4. Статья отвергнута по каким-то причинам — скорее всего ошибка автора статьи: статья не соответствует тематике или в редколлегии не нашлось специалиста. (А еще и так бывает: статья написана плохо, см. предпоследний пункт).
  5. Статья требует существенной переработки — плохо;
    1. если с детальным указанием что нужно делать, то можно попытаться исправить как в п. 1,
    2. если без указания что нужно делать, то считаем, что редколлегия отвергла статью в вежливой форме (хотя нужно было отвергнуть явно),
    3. статья действительно плохо написана, советуемся с коллегами/научными руководителями, они вам скажут, что думают о вашей работе.
  6. Ответа из редколлегии нет — плохо, статью либо потеряли, либо работа редколлегии плохо организована, добиваемся ответа.

Работа с редактором

Перед публикацией статьи может прийти письмо с предложением встретиться с редактором журнала для технической правки текста. Рекомендуется пойти, познакомиться с редактором и поработать вместе над статьей. Это занимает два-четыре часа. Результат — статья, приведенная в соответствие со стандартами и с нормами русского языка. Вариант: редактор присылает технические правки в файле PDF, автор их принимает или отвергает.

  • Совет консультантам. Желательно править статью вместе при встрече. Пример общепринятой рукописной редакторской правки тут, PDF.

Как подать статью в международный журнал

Памятка переводчику

  1. Проще - лучше.
  2. Предложение состоит из подлежащего и сказуемого. И дополнения.
  3. Прочего следует избегать. Ищите подлежащее. Предложение состоит из трех-пяти слов.
  4. Каждое существительное - точный термин.
  5. Существительное имеет свой точный глагол - сказуемое.
  6. Глагол имеет точный предлог перед дополнением.
  7. Точный - это значит, что его надо найти в образцах или в словарях.
  8. Словарный состав должен быть минимален.
  9. Пассива не существует.
  10. Актив для повествования, императив для описания алгоритмов.Роль артиклей значима. Их разнообразие велико.
  11. Не сочиняйте ни слова, ни конструкции. Не придумывайте текст. Ищите его у англичан.Англичанами являются: 1) Стефен Вольфрам, 2) Кристофер Бишоп, 3) Дэвид Маккай.
  12. Копируйте из учебников.

TODO на что нужно обратить внимание при подаче статью в журнал с высоким импакт-фактором.

Что сделать

  • Найти журналы опубликовавшие статьи, на которые нужно сослаться. В работе, подаваемой в журнал, желательно иметь 3-5 ссылок на его ранние номера (1-4-летней давности). В идеале нужно найти журнал, содержащий статьи, в которых предлагается "почти то же самое", что и в подаваемой статье. Желательно иметь список из 3-7 журналов. (Предпочтение научного руководителя - IF 2.0-4.0, но можно и меньше).
  • Журналы искать в коллекциях
  • Найденные журналы должны быть в списках ВАК, то есть «включены в хотя бы одну из систем цитирования Web of Science, Scopus, Web of Knowledge, [], Mathematics, [], Springer»[27].
    • Вставить ссылку (платный вход во все перечисленные системы?[28])
    • Возможно, похожа база ScienceDirect (там ссылка на SciVerse, они что, все слились в одну систему?).
  • Найти статьи, опубликованные за последние восемь лет, на которые опирается подаваемая статья. Желательно иметь список из 20 статей.
  • Статьи искать по всему интернету, включая платные коллекции. Желательно ссылаться на статьи из журналов списка SicenceDirect/WebOfKnowledge.

Список журналов

Коллекции и наукометрические системы

Ликбез от Elsevier

Методические рекомендации преподавателю

  1. При подготовке курса заручиться поддержкой экспертов, убедиться что они готовы предоставить необходимые данные в нужный срок. Согласовать с экспертами предполагаемые темы задач.
  2. Заручиться поддержкой консультантов, с каждым из них на основе предоставленного списка задач договориться о желаемой теме исследования.
  3. Разработать структуру курса: разбить весь объем работ на недельные этапы, соответствующие основным этапам выполнения исследования и написания статьи; создать расписание с планами лекций и домашними заданиями.
  4. Для обеспечения взаимодействия студентов и консультантов:
    • определить роль консультантов в рамках каждого пункта плана курса,
    • убедиться, что консультанты понимают какие результаты ожидаются по каждой подзадаче,
    • дать четкие критерии оценивания студенческих работ.
  5. В ходе курса проводить занятия с группой, обеспечивая студентам необходимую базу знаний и задавая общее направление работ.
  6. Знакомить студентов с основными принципами написания научного текста: согласно плану курса, на лекциях приводить примеры написания основных разделов научной статьи.
  7. Уделять часть лекции разбору домашних заданий. При разборе систематизировать распространенные ошибки.
  8. Собирать анкеты-рефлексию с целью понять
    • всем ли ясна поставленная задача или текущий этап работы,
    • сколько времени в среднем уходит на выполнение каждого этапа работы,
    • основные сложности, возникающие у студентов при выполнении заданий,
    • насколько эффективен процесс консультирования в каждой паре студент-консультант.
  9. Организовать презентации студенческих работ в ключевые этапы написания работ: краткое описание задачи и предполагаемых путей решения в начале семестра, анализ первичных результатов вычислительного эксперимента в середине и финальный отчет-презентацию проделанной работы в конце семестра.
  10. NB The classical unities or Aristotelian unities, or three unities

На лекциях, заметки преподавателю (устарело)

  • 1 лекция: вводная, плюс показ инструментов.
  • 2 лекция: введение в Матлаб (общий рассказ о роли Матлаба в программировании) / проверить как поставился софт.
  • 3 лекция: структура научной статьи, плюс легкие задачи на программирование / проверить ДЗ2 + конструкции Матлаб и ТеХ.
  • 4 лекция: проверка и обсуждение написанного кода (все работы)
  • 5 или 6 лекция: постановка задач.

Резюме. Сократить материал не получается даже для ровной группы, курс стабилизировался.

  • технология работы над статьей,
  • способы постановки задач в ML (третье занятие),
  • формулировка теорем и оформление доказательств (откуда берутся и зачем нужны теоремы) ,
  • полнота материла (сколько материала необходимо дать, чтобы работу понимал не только автор, но и читатель),
  • построения предложений (собрать список неудачных фраз) (сделано),
  • типографика в <tex>\TeX</tex> (сделано),
  • написание рецензий,
  • написание заявок на гранты,
  • перевод на английский язык,
  • международные доклады,
  • пример работы DOI:10.1016/j.camwa.2010.03.021 (Penalty ~ $270).
  • locate a DOI

NB лекционные заметки о карьере

Карьера:

  1. Академическая (исследования и преподавание)
  2. Промышленная (исследования и разработки)
  3. Финансовая (анализ и разработки)
  4. Управление (анализ и принятие решений)

Категория:Учебные курсы


Поиск работы и карьера исследователя в академии и на производстве

Рекомендация от научного руководителя для дальнейшего обучения и стипендий

История развития курса

Данный курс является первой частью цикла

  1. Численные методы обучения по прецедентам
  2. Автоматизация и стандартизация научных исследований
  3. Выполнение исследовательских проектов
  4. Руководство исследовательскими проектами

и подготовкой к основному теоретическому курсу Ранние версии:

Шаблон статьи для сайта ML

'''Название проекта''' и его аннотация, не более 600 символов
== Постановка задачи ==

== Описание алгоритма ==
И другие разделы

== Смотри также == 
* Полный текст этой работы [https://mlalgorithms.svn.sourceforge.net/svnroot/mlalgorithms/electricity%20forcasting/doc/Dzhamtyrova10forecasting.pdf PDF]
* Ссылка на код [https://mlalgorithms.svn.sourceforge.net/svnroot/mlalgorithms/electricity%20forcasting/doc/Dzhamtyrova10forecasting.pdf PDF]

== Литература ==
{{Задание|Иван Иванов|В.В.Стрижов|24 декабря 2010|Ivanov|Strijov}}
[[Категория:Практика и вычислительные эксперименты]]

Журнал «Машинное обучение и анализ данных»

Начиная с весны 2011 избранные работы по этому курсу публикуются в специальном журнале. Цель журнала — развитие методов проведения вычислительных экспериментов в области машинного обучения и интеллектуального анализа данных.

Черновики простых задач по глубокому обучению

  • Выборки: используются те, которые часто встречаются в статьях, легко скачать. Желательно, чтобы они выкачивались питоновскими пакетами автоматически.
    1. Boston: есть код загрузки в sklearn: http://scikit-learn.org/stable/modules/generated/sklearn.datasets.load_boston.html
    2. MNIST: есть код загрузки в TensorFlow (https://www.tensorflow.org/versions/r1.2/get_started/mnist/pros#load_mnist_data), Keras (https://keras.io/datasets/#mnist-database-of-handwritten-digits)
    3. CIFAR-10: есть код в TensorFlow (https://github.com/tensorflow/models/tree/master/tutorials/image/cifar10/), Keras (https://keras.io/datasets/#cifar10-small-image-classification)
    4. Celeb-A: набор лиц знаменитостей с 40 булевыми атрибутами для каждого лица, выборка достаточно часто упоминается в работах по GAN http://mmlab.ie.cuhk.edu.hk/projects/CelebA.html
    5. Frey Faces: игрушечный датасет с лицом одного человека, часто используется в статьях по генеративным моделям https://cs.nyu.edu/~roweis/data.html
    6. Текстовые корпусы из nltk, выкачиваются в одну команду https://www.nltk.org/book/ch02.html
  • По задачам:
    1. В работе по GAN'ам (https://arxiv.org/pdf/1709.06548.pdf) был очень простой эксперимент на паре выборок <картинки из MNIST, транспонированные картинки из MNIST>, где сеть училась делать транспонирование, при этом задача рассматривалась как semi-supervised. Можно попробовать изучить, какое количество объектов потребуется простому автокодировщику, чтобы выучить операцию транспонирования.
    2. В статье (https://omoindrot.github.io/triplet-loss) рассматривались различные подходы к Metric Learning на основе триплетов. Можно провести сравнение стратегий Hard triplets, Easy triplets, Semi-hard triplets и случайных триплетов для какой-нибудь выборки. Результатом может быть визуализация, схожая с последним графиком из статьи.
    3. В работе (https://arxiv.org/pdf/1711.00464.pdf) рассматривается модификация функции потерь вариационного автокодировщика с разными коэффициентами на D_KL и ошибку реконструкции. Если коэффициент D_KL высокий - то модель хорошо работает как генеративная, если коэффициент D_KL низкий, то модель лучше восстанавливает исходную выборку. Можно повторить схожий эксперимент с лицами, получится наглядный график, как Figure 4 из статьи.
    4. Можно обучить модель перевода или что-то похожее на Seq2Seq: https://blog.keras.io/a-ten-minute-introduction-to-sequence-to-sequence-learning-in-keras.html Интересно было бы посмотреть как меняется перевод при снижении количества параметров.
    5. Есть простой пример посимвольной генерации текста на Keras: https://github.com/keras-team/keras/blob/master/examples/lstm_text_generation.py Здесь можно поэкспериментировать с температурой при генерации.

Система анкетирования


Категория:Учебные курсы

Retrieved from ‘https://m1p.org/index.php?title=New_page&oldid=6’