alexxlab Методы выявления и отсева лишнего. Организация времени. От личной эффективности к развитию фирмы
Методы выявления и отсева лишнего
Лучший способ извлечь пользу из нижеследующего материала — выписать дела, которые вам пришлось выполнить, скажем, в течение вчерашнего дня, и проанализировать этот список с помощью описываемых инструментов. Это даст изменение взгляда на многие привычные процессы и поможет изыскать новые резервы эффективности. Такую «стратегическую чистку» полезно осуществлять регулярно (например, раз в квартал), а также при существенных изменениях в характере деятельности (переходе на новую должность и т. п.).
Наиболее простой способ уменьшить число не важных дел — «поставить на место» те из них, которые кажутся важными, но на самом деле таковыми не являются. Это легко сделать с помощью матрицы, предложенной президентом США Эйзенхауэром. Все дела в ней классифицируются по степени важности и срочности.
A. Важные и срочные. Нужно сделать немедленно, коли уж такие дела у вас есть.
Хотя именно про них сказано кем-то из великих: «Нужно жить так, чтобы важные дела не превращались в срочные».
Б. Важные и не срочные. Самые «обиженные», наиболее ущемляемые дела, связанные с собственным развитием, обучением сотрудников и т. п. Часто дела типа А появляются из-за пренебрежения делами типа Б — развитием, обучением сотрудников и т. п. На дела типа Б удобнее всего смотреть как на инвестиции, которые нужно делать сегодня, чтобы получить прибыль завтра. Пожалуй, главная «тайм-менеджерская» проблема большинства людей состоит в неспособности делать такого рода инвестиции, в неспособности понять, что для прыжка через пропасть вперед нужно сделать шаг назад, т. е. что ничто не дается даром, и чтобы получить, нужно сначала вложить.
В. Не важные и срочные. Именно эти дела «прикидываются важными», маскируясь под дела «А». Человеку свойственно путать срочность и важность: всякое срочное он автоматически считает важным. В основном именно дела «В» создают в фирмах атмосферу непрерывного кризис-менеджмента, аврала, суматохи.
Г. Не важные и не срочные, или Мусорная корзина. Эти дела нужно «финансировать по остаточному принципу». Но они часто приятны и интересны, поэтому с них начинают рабочий день, убивая ими лучшие рабочие часы.
Еще один способ классифицировать дела по важности следует из закона, открытого известным экономистом Вильфредо Парето. Согласно этому закону, 20 % всех клиентов приносят 80 % всей прибыли; 20 % всех деталей дают 80 % всех неполадок и т. д. В приложении к тайм-менеджменту: 20 % всех дел дают 80 % результатов; 80 % дел дают 20 % результатов. Знание этого факта позволяет при рассмотрении списка дел выделить те 20 %, которые дают максимальный результат и поэтому требуют уделения себе особого внимания.
Естественно, мы не можем отбросить оставшиеся 80 % дел, их все равно нужно будет делать. Но 20 % наиболее важных вы сможете выделять наибольшее внимание, т. е. выполнять их в наиболее плодотворное время, и т. п.
Кроме того, полезно проделать такое упражнение: попытаться выделить из списка дневных дел наиболее важные, жестко ограничив их количество 20 % (от числа дел или от времени, которое они занимают). Это позволит заставить себя отказаться от тупиковой мысли: «У меня все дела одинаково важные и нужные!», т. е. чисто арифметическим способом принудить себя к выделению наиболее важного.
Менее точный, но не менее полезный способ отделения важного от не важного дает различение качественного скачка и количественных улучшений. Питер Друкер, говоря о расстановке приоритетов, предлагает ставить высокие цели, позволяющие существенно изменить ситуацию; искать свои собственные, оригинальные пути, позволяющие достигнуть решительного конкурентного преимущества. Таким образом, кандидатами на отсев становятся дела, не создающие качественных скачков в развитии, вносящие лишь незначительные «количественные» улучшения.
И наконец, при расстановке приоритетов стоит обратить внимание на необратимость некоторых вещей. Стивен Кови описывает менеджера в ситуации выбора: пойти с сыном в цирк, как и было запланировано, или воспользоваться неожиданно представившейся возможностью поехать в офис и заключить выгодный контракт? Принять решение менеджеру помогло простое рассуждение: «Контрактов будет еще много, а детство проходит быстро и не повторится уже никогда».
Следует заметить, что к применению описанных методов, особенно количественных, не стоит относиться слишком скрупулезно. Не важно, насколько точно вы сумеете выделить те 20 % дел, которые дают 80 % результатов, или отличить дела, дающие только незначительные количественные результаты, а не радикальные качественные скачки. Главное, что эти схемы дадут вам новый взгляд на обычные вещи, подскажут новое понимание ваших задач, а следовательно, сделают более сильными принимаемые вами стратегические решения.
Вы хотите выигрывать в стратегической гонке, успевать и достигать успехов, сохранять хорошую «спортивную форму»? Тогда вам стоит регулярно и основательно работать над сбрасыванием «лишнего веса».
ТМ-ПЕРСОНАЛИИ
Я — богатый человек, у меня вагон времени
Андрей Томилин, руководитель юридического отдела компании «АЛФ Консалтинг Групп», Санкт-Петербург
Я не склонен обожествлять тайм-менеджмент. Я также решил для себя не цепляться за уходящее время и не плакать по поводу его невосполнимости.
Однако время все-таки остается самым ценным ресурсом.
Поэтому важным для себя считаю достижение состояния контроля за своим временем, появление чувства хозяина времени. Я — богатый человек. У меня вагон времени. Я могу его инвестировать куда захочу. Куда мне интересно. Отдачи от своих «инвестиционных проектов» я жду не в деньгах, а в самореализации, в удовольствии от достижения целей, в моем положительном влиянии на окружающий мир.
Считаю, что важно не перегнуть палку с экономией времени, чтобы не стать «скупым рыцарем». Время иногда надо дарить. Например, своим друзьям, жене, детям и даже самому себе. Знаете, как иногда бывает с деньгами — чем больше их тратишь, тем больше получаешь.
Мне очень интересен коллективный разум, который представляет из себя ТМ-сообщество. Раньше нигде я не встречал в одном месте столько единомышленников, столько актуальных для себя идей, методов и решений, сколько их тусуется на сайте improvement.ru и на ТМ-форуме.
Данный текст является ознакомительным фрагментом.
Технология выявления профессиональной пригодности менеджера
Технология выявления профессиональной пригодности менеджера По мнению авторов фундаментального исследования «Международная политика. Теория и практика» П.Р. Кругмана и М. Обстфельда, никто не осмелится утверждать, что рынок абсолютно совершенно регулирует реальную
Пример составления портрета целевой аудитории и выявления общих проблем
Пример составления портрета целевой аудитории и выявления общих проблем
Давайте разберем пример составления портрета целевой аудитории.
Ищите способы для выявления сотрудников, которые одержимы новыми идеями
Ищите способы для выявления сотрудников, которые одержимы новыми идеями У многих сотрудников в любой крупной компании есть хорошие идеи по развитию бизнеса. Топ-менеджмент обязан открыть возможности для всех тех, кто нестандартно мыслит и хотел бы
15.1. Универсальные методы
15.1. Универсальные методы Советы как касторка: давать нетрудно, принимать неприятно. Генри Уилер Шоу Существуют методы универсальные и специальные: под конкретную задачу. К универсальным методам относятся методы групповой работы.Работа с группой. В этом случае ведущий
Технология первичного отсева кандидатов
Технология первичного отсева кандидатов
От человека, желающего устроиться на работу, логично ожидать стремления «показать товар лицом», рассказать о себе нечто такое, что сделает его привлекательным в глазах работодателя.
Если этого элемента нет, сразу возникают
Критерии отсева
Критерии отсева Итак, рекрутер получил достаточно откликов и теперь должен определить набор формальных признаков (критериев), которыми будет руководствоваться при отсеве резюме. Эти критерии также называют минус-признаками, поскольку они автоматически исключают
Ничего лишнего
Ничего лишнего Говорят, что Брюс Бартон был очень придирчив к своим текстам. Ходила шутка, что, когда он умрет, на его надгробном камне будет высечено: «Текст нужно сократить».Упрощайте и сокращайте свои рекламные тексты, речи и письма до тех пор, пока они не начнут звенеть
Методы рекламы
Методы рекламы
а. Придумывание названия.б. Создание сайта.в. Прописывание компании во всевозможных бесплатных каталогах (телефонный справочник «Московский бизнес», «Желтые страницы» и др.
).г. Написание рекламных статей для публикации в справочнике «Кто есть
Методы маркетинга
Методы маркетинга а. Утверждение штатного расписания – генеральный директор, коммерческий директор, главный редактор.б. Составление календаря профессиональных праздников потенциальных клиентов.в. Спам-рассылки (2), одна из которых принесла результат.г. Поиск новых
Методы PR
Методы PR а. Формирование четкого образа компании (позиционирование, бизнес справка, корпоративная легенда, фирменный флаг, бланки, сувенирная продукция и т. д.).б. Написание и распространение пресс-релизов по российским СМИ, тематическим сайтам, российским и иностранным
Глава 3 Правильные вопросы для выявления потребностей покупателя
Глава 3
Правильные вопросы для выявления потребностей покупателя
Умение задавать вопросы – самый существенный навык, который должен быть отработан продавцом.
Отсюда простой вывод – если продавец не умеет задавать вопросы, его судьба в продажах предопределена: он скоро
Как Википедия выращивает армию «фактчекеров» для борьбы с фейковыми новостями
Rusbase
Как Википедия выращивает армию «фактчекеров» для борьбы с фейковыми новостями
Автор: Джаред Келлер
11.03.2017
Онлайн энциклопедия занимается проверкой фактов в интернете уже более 15 лет. Теперь она хочет открыть свое скептическое видение массам.
Всего немногим более года назад Википедия стояла на перепутье, хотя сама компания этого еще не осознавала. Дела у онлайн-энциклопедии шли неплохо: 15 января 2016 года Wikimedia Foundation, родительская компания Википедии, провела конференцию и праздничную вечеринку в головном офисе в Сан-Франциско в честь своего 15-летия.
Сайт, к которому научное сообщество когда-то относилось как к трясине «как бы» фактов, превратился в мировое культурное хранилище с более чем 38 миллионами статей на 289 языках, а с началом объявленного на годовщине 10-летнего обеспечения в размере 100 миллионов долларов для «вечного хранения», Википедия вероятно сохранит этот титул и в обозримом будущем.
15-летие Википедии совпало с изменением отношения к честности в американской политике. На расстоянии около 4,2 тысячи километров от раздела праздничного пирога в Сан-Франциско, кандидаты в президенты США от республиканцев проводили вечер, убеждая избирателей со сцены для дебатов в Чарльстоне, Южная Каролина. Здесь был бывший сенатор от Пенсильвании Рик Санторум, утверждавший, что администрация Обамы стоила Соединенным Штатам более двух миллионов рабочих мест, сенатор от Техаса Тед Круз, говоривший, что президент разрешил прибытие сирийских беженцев без «серьезной» предварительной проверки. То, что кандидат в президенты США может преувеличивать, само по себе не удивительно; в конце концов, наибольшая оплошность, которую может сделать политик, — это сказать правду, но с течением предвыборной кампании, с тем, как Дональд Трамп впитывал каждую молекулу политического кислорода, те дебаты в Южной Каролине все больше показывали необычный контраст к торжеству истины на всем побережье.
Дебаты Дональда Трампа и Хилари Клинтон
Фото: BBC
В послевыборные месяцы технологические и медиакомпании, будучи цифровой инфраструктурой для контента, вели войну против фейковых новостей и теорий заговора: от создания партнерств между СМИ и Google для проверки фактов и отфильтровывания лжи от алгоритмически нейтральных результатов поисковых машин до удобных расширений для Google Chrome, парсящих твиты президента за вас.
Октябрьский опрос Pew Research Center выяснил, что 81% американцев видели разногласия Трампа и Хиллари Клинтон по «основным понятиям» американской жизни. В то время, пока новостные организации, которым никогда не доверяли, пытались проверять факты при скудных бюджетах, ответственность за борьбу с фейковыми новостями во все более фрагментированной информационной экосистеме взял на себя Facebook. Однако размашистые попытки социальной сети бороться с плохой сатирой и ростками конспиративных теорий могут быть бессмысленными: хотя все больше и больше американцев получают новости через Facebook, согласно опросу BuzzFeed/Ipsos, только 18% верят тому, что читают.
Роль Википедии в борьбе за свое место в эпоху пост-правды не сводится к занесению каких-то конкретных источников в качестве бессрочно ненадежных (как было сделано в отношении Daily Mail) в черный список или к предотвращению внесения правок в биографии своего начальства сотрудниками аппарата конгресса.
Как старейший представитель информационной экосистемы в годы интернета, Википедия целенаправленно и методично борется с дезинформацией, перебирает строгие правила проверки, которые википедисты (активные редакторы в сообществе Википедии) совершенствуют, обеспечивая прозрачность информации в открытых каналах.
С сокращением бюджетов отделов новостей и все большего скептицизма по отношению к институтам власти, постоянно меняющаяся структура верификации Википедии серьезно перевернула общественное отношение к себе. Опрос международной организации YouGov 2014 года выяснил, что британские пользователи доверяют сайту больше, чем местным новостным медиа. Придуманный Джоном Стюартом Миллом «Рынок идей», экономическое обоснование свободы выражения, действует в Википедии и достаточно хорошо работает для перегонки большого количества фактов в единственную истину.
Многих студентов учили относиться к Википедии как к сборищу фейковых новостей еще до того, как сами фейковые новости появились, но теперь они доверяют Википедии больше, чем когда-либо.
Википедия не являлась весомым источником информации, так как была коллективной, однако мои студенты многое узнали о том, что на самом деле означает эта коллективность в контексте сайта для истины, сотрудничества и проверки фактов.
Джен Малковски
Профессор по исследованию кино и медиа из Смитсовского колледжа
Тем не менее цель компании не разработать конструктивное решение под ключ по проблеме фейковых новостей в интернете, расширяя масштабы ее внутренней структуры проверки фактов, глобального исследования и редактирования со строгой логикой и правилами (в противоположность к беспорядочным методам Twitter), напротив, ее цель — породить свой уникальный институциональный бренд медиаграмотности в каждом молодом мозге страны.
В 2013 году из большой Wikimedia Foundation выделилось некоммерческое подразделение Wiki Education Foundation, которое служит мостом между Википедией и ученым сообществом. Пока студенты и выпускники одновременно служат редакторами в Википедии и в различных культурных учреждениях (как, например, Национальное управление архивов и документации), чтобы увеличить поток исторических документов в онлайн-энциклопедию, Wiki Education предлагает профессорам колледжей, чтобы их студенты писали статьи для Википедии по соответствующим курсам вместо традиционной бумажной научно-исследовательской работы*.
Только за осенний семестр около 6,3 тысячи студентов с 276 курсов со всей США и Канады сгенерировали 10% контента, добавленного в Википедию, всего более 4,25 миллиона слов.
_________
* Малковски была членом Wiki Education в прошлом году.
«Википедия имеет дело с фейковыми новостями уже 16 лет, и мы разработали обширную методику для определения того, какие источники являются надежными, а какие нет».
Одна из общих проблем Википедии состоит в том, что весь контент написан волонтерами. Хорошо раскрыты те области, в которых они наиболее заинтересованы: текущие события, поп-культура и так далее. Есть отставание по качеству и развитию контента в академических предметных областях. Однако теоретический контент чрезвычайно важен, он никуда не денется. В Википедии всегда будет место для законодательных текстов и конкретных исторических дат, вплоть до технологии того, что мы готовим на кухне.
Ли Анна Дэвис
Директор программ Wiki Education
Цель программы не только поддержать пул помощников Википедии, хотя отсев среди добровольных редакторов зачастую вызывает беспокойство, несмотря на снижение темпов в последние годы.
Скорее это ускоренный курс по тщательному исследованию и проверке фактов на сайте, как выразилась Дэвис, «проверенный способ поднять цифровую грамотность, добавляя достоверную информацию в самую большую в мире энциклопедию, основанную на фактах». Введение медиаграмотности в американскую педагогику не могло произойти в лучшее время: согласно опросу Стэндфордского университета, среди 7,8 тысяч студентов средних школ и колледжей, даже учащиеся в лучших университетах страны с большим трудом отличают фейковые новости от реальных.
В контексте обсуждения «альтернативных фактов» мы слишком фокусируемся на проблеме и недостаточно на описании и понимании решений. Википедия имеет дело с фейковыми новостями уже 16 лет, и мы разработали обширную методику для определения того, какие источники являются надежными, а какие нет. Работая над сайтом, студенты учатся писать нейтральные, основанные на фактах, статьи и должны раскрывать все свои источники. Обсуждение, которое мы недавно наблюдали, только утвердило нас в том, что знания, которые мы даем в программе, жизненно необходимы.
Ли Анна Дэвис
Директор программ Wiki Education
Как правило, мы считаем интернет не чем-то глобальным и единым, а набором самоизолирующихся (хотя и не всеохватывающих) «пузырей» со своими собственными понятиями хорошего и плохого, уникальными связями и мемами. Википедия не создает такого же рода политическую поляризацию, которую мы привыкли ожидать от подавляющего большинства онлайн сообществ. Октябрьский рабочий доклад от Национального бюро экономических исследований (НБЭИ) показал, что со временем общение среди активных пользователей энциклопедии стало менее обособленным, а их вклад в статьи более беспристрастным. Помощники со временем стали «более нейтральными, а не более резкими», «удивительно, больше всего эффект проявился среди авторов, которые имели дело со статьями, имеющими наибольшую предвзятость», — отметили авторы доклада.
В целом, мы считаем, что, если вы даете людям хорошую информацию, они могут принимать правильные решения, а это приходит с доверием к пользователям.
Очень важно иметь открытые и прозрачные места для публичных обсуждений: за каждой статьей Википедии стоит отдел новостей в форме канала общения, где редакторы обсуждают текущие события и высказывают различные точки зрения.
Джульет Барбара
Директор по связям с общественностью
Wikimedia Foundation
Этот необычный вид онлайн-сотрудничества возможен благодаря уникальной лояльности к Википедии, которая только поощряет его. Американское общество может быть более поляризовано, чем когда-либо ранее, но исследование НБЭИ показывает, что википедисты стремятся ставить честность сайта выше собственных идеологических пристрастий. Для редакторов, которые посвящают свое время поддержке сайта, Википедия является одновременно и носителем данных, и посланием. Они в некотором роде сражаются за то, чтобы сохранить мир, в то время как цифровые дружинники и тролли-неонацисты ведут войну на ниве правды и дезинформации в фейсбуках и реддитах, чьи «государственные интересы» не факты, а апеллирование к чувствам.
«Хорошо, что Википедия действует на практике, потому что в теории это полная катастрофа», — говорит Барбара.
То, что Википедия действует на практике, может быть наилучшим способом помочь преподавателям вдохнуть в своих студентов медиаграмотность, в которой они так отчаянно нуждаются. Дэвис говорит, что Wiki Education ожидает, что примерно 7,5 тысячи студентов 335 курсов внесут свой вклад на сайт этой весной и, согласно предварительным опросам, 95% участвующих студентов считает, что написание статей для Википедии чрезвычайно ценно для получения навыков медиаграмотности, необходимых для понимания изменяющегося цифрового мира.
Знание не обязательно стабильно, всегда были споры относительно того, что есть факт. Люди всегда разрабатывали способы проверять информацию, чтобы быть уверенными относительно фактов и данных. Для моих студентов это также включало изучение того, как пользоваться Википедией: как просматривать историю изменений, как просматривать различные страницы обсуждений и видеть, какого рода обсуждения появляются вокруг конкретных тем.
Джен Малковски
Профессор по исследованию кино и медиа из Смитсовского колледжа
Большинство студентов традиционной научной работе предпочли исследование и проверку фактов какой-либо малоизвестной записи по истории документальных радиопередач — они чувствовали, что вносят вклад в глобальную базу знаний.
Они действительно работают над статьями Википедии значительно лучше, чем над обычной научной работой, когда вся их аудитория — одна лишь я. Ребята очень гордятся своей работой и часто делают гораздо больше, чем должны. Студенты добавляли в записи гораздо больше необходимого минимума просто потому, что темы были им действительно интересны. У них невероятный уровень вовлечения и качества работы.
Тамар Кэролл
Профессор истории и директор программ цифровых гуманитарных и социальных наук в Технологическом институте Рочестера
Стоит отметить, что многие академические исследования доступны только за плату и большинство людей не имеет к ним свободного доступа.
Мои студенты действительно осознают, что имеют привилегии в доступе к подобной информации.
Джен Малковски
Профессор по исследованию кино и медиа из Смитсовского колледжа
Все это не значит, что Википедия — идеальное увеличительное стекло и лакмусовая бумажка всего Интернета: как отметил The Economist на 15-ю годовщину сайта, википедисты — преимущественно англоговорящие мужчины, которые могут иметь отличное от коллектива мировоззрение. Непрерывной и сложной задачей является привлечение участников из различных слоев общества и разных стран. Даже если википедисты на один семестр останутся вовлеченными в работу над сайтом, есть риск, что их знания по медиаграмотности могут забыться в суматохе жизни в колледже или, что еще хуже, известные своей недружелюбностью ветераны Википедии просто отвратят посторонних. Также всегда есть опасность того, что потребители, прекрасно чувствующие себя в теплом навозе своих лент из Facebook и Twitter, не узнают правды из топа Google.
Для поколения американцев, видящих ненадежность традиционных государственных институтов, утопающих в непрерывном ежедневном потоке информации и неуверенных в будущем, урок по относительно проверенной методике может послужить лучшей прививкой против лжи, чем любая алгоритмическая настройка новостной ленты Facebook. Да, благородная армия волонтеров Википедии продолжит создавать статьи энциклопедии настолько близкими к объективной реальности, насколько это возможно, но это только один аспект в войне с дезинформацией. Чтобы выиграть войну, американское образование должно научить избирателей основам медиаграмотности, необходимым для существования в мире пост-правды.
Теперь в своих способностях проверять информацию мои студенты видят новый вклад в политику. Для них это важно, как никогда раньше.
Джен Малковски
Профессор по исследованию кино и медиа из Смитсовского колледжа
Материалы по теме:
Эта бесплатная онлайн-энциклопедия обошла Википедию по двум параметрам
Дорога к правде: 15 лет Википедии
Facebook и Google начали борьбу с фейковыми новостями во Франции перед выборами президента
Какая социальная сеть вам больше подходит?
Источник
© Rusbase, 2017
Фото на обложке: Shutterstock
Перевод: Никита Стаценко
Отсев в (глубоком) машинном обучении | Автор Amar Budhiraja
Этот пост в блоге также является частью серии постов о глубоком обучении.
Ранее я писал еще два поста — один об инициализации веса, а другой — об идентификации языка текста. Все посты самодостаточны, поэтому вы можете прочитать этот и проверить другие, если хотите.
В этом посте я в первую очередь рассмотрю концепцию отсева в нейронных сетях, особенно глубоких сетях, а затем проведу эксперименты, чтобы увидеть, как это на самом деле влияет на практике, путем реализации глубокой сети на стандартном наборе данных и наблюдения за эффектом отсева. .
Что такое Dropout в нейронных сетях?
Согласно Википедии —
Термин «выпадение» относится к выпадающим единицам (как скрытым, так и видимым) в нейронной сети.
Проще говоря, отсев означает игнорирование единиц (то есть нейронов) во время фазы обучения определенного набора нейронов, который выбирается случайным образом. Под «игнорированием» я подразумеваю, что эти юниты не учитываются во время конкретного прохода вперед или назад.
Более технически, на каждом этапе обучения отдельные узлы либо выпадают из сети с вероятностью 1-p или сохраняется с вероятностью p , так что остается редуцированная сеть; входящие и исходящие ребра к выпадающему узлу также удаляются.
Зачем нам Dropout?
Учитывая, что мы немного знаем о дропауте, возникает вопрос — зачем вообще нужен дропаут? Почему нам нужно буквально отключать части нейронных сетей?
Ответ на эти вопросы: «для предотвращения перенастройки».
Полностью связанный слой занимает большую часть параметров, и, следовательно, нейроны развивают взаимную зависимость друг от друга во время обучения, что ограничивает индивидуальную мощность каждого нейрона, что приводит к переобучению данных обучения.
Теперь, когда мы немного узнали об отсеве и мотивации, давайте углубимся в детали. Если вам просто нужен обзор отсева в нейронных сетях, двух предыдущих разделов будет достаточно. В этом разделе я коснусь еще некоторых технических аспектов.
В машинном обучении регуляризация — это способ предотвратить чрезмерную подгонку. Регуляризация уменьшает переоснащение, добавляя штраф к функции потерь. Добавляя этот штраф, модель обучается так, что она не изучает взаимозависимый набор весов признаков.
Те из вас, кто знаком с логистической регрессией, могут быть знакомы с штрафами L1 (лапласиан) и L2 (гауссов).
Dropout — это подход к регуляризации нейронных сетей, который помогает уменьшить взаимозависимое обучение нейронов.
Фаза обучения:
Фаза обучения: Для каждого скрытого слоя, для каждой обучающей выборки, для каждой итерации игнорировать (обнулять) случайную долю, p , узлов (и соответствующих активаций).
Фаза тестирования:Использовать все активации, но уменьшить их на коэффициент p (для учета недостающих активаций во время обучения). 9H возможных моделей. На этапе тестирования рассматривается вся сеть, и каждая активация уменьшается в раз.
Давайте попробуем эту теорию на практике. Чтобы увидеть, как работает отсев, я построил глубокую сеть в Keras и попытался проверить ее на наборе данных CIFAR-10. Построенная глубокая сеть имеет три сверточных слоя размером 64, 128 и 256, за которыми следуют два плотно связанных слоя размером 512 и плотный слой выходного слоя размером 10 (количество классов в наборе данных CIFAR-10).
Я взял ReLU в качестве функции активации для скрытых слоев и сигмоид для выходного слоя (это стандарты, особо не экспериментировал с их изменением). Кроме того, я использовал стандартную категориальную кросс-энтропийную потерю.
Наконец, я использовал отсев во всех слоях и увеличил долю отсева с 0,0 (отсутствие отсева вообще) до 0,9 с размером шага 0,1 и прогнал каждый из них до 20 эпох. Результаты выглядят следующим образом: Точность
по сравнению с отсевом (слева) и потеря по сравнению с отсевом Из приведенных выше графиков мы можем сделать вывод, что с увеличением отсева происходит некоторое увеличение точности проверки и уменьшение потерь до того, как тренд начнет идти вниз. .
Может быть две причины снижения тренда, если доля отсева равна 0,2:
- 0,2 является фактическим минимумом для этого набора данных, сети и используемых параметров набора
- Для обучения сетей требуется больше эпох.
Код эксперимента Keras см. в блокноте jupyter, размещенном на github .
Если вы хотите узнать больше обо мне, пожалуйста, проверьте мой профиль LinkedIn.
Эта статья была опубликована в блоге Intel: https://www.crowdcast.io/e/intel_virtual_lab/register
и на Data Science US — https://www.datascience.us/neural-net-dropout-dealing-overfitting/
Отсев Wharton создает альтернативу Википедии вместе с соучредителем Rap Genius
Элейн Ли 22.03.16 1:35
Второкурсник Уортона Джордж Билл является частью команды, которая создала онлайн-энциклопедию , которую могут редактировать все представители общественности при бесплатном входе в систему. | Дизайн Стефани Диксон
Everipedia — это больше, чем ваш классический стартап, возглавляемый командой выпускников колледжей.
Видение Everipedia — стать самой доступной онлайн-энциклопедией, которую могут редактировать представители общественности. Стартап, получивший название «Энциклопедия для всех», отличается от своих основных конкурентов, таких как Википедия и Британская энциклопедия, тем, что каждый может создать собственную страницу, создав бесплатную учетную запись.
Компанией управляет команда, в которую входят соучредитель Rap Genius Махбод Могадам и второкурсник Уортона Джордж Билл, а также соучредители Сэм Каземиан и Теодор Форселиус. Основатели говорят, что в настоящее время компания оценивается в 10 миллионов долларов.
Билл описал цели компании как обмен и производство информации способом, который менее ограничителен, чем модель Википедии. «В целом, мы хотим быть намного холоднее, чем Википедия, и просто помогать делиться информацией, а не зацикливаться на глупых деталях», — сказал он.
Билл, который в настоящее время не учится в Penn, бросил учебу в прошлом году, чтобы основать собственный технологический стартап Touch Tiles, который создает настраиваемые аппаратные устройства.
«Я хотел создавать лего для технологий, и в итоге я получил патент, работая над развитием», — сказал Билл.
После продажи Touch Tiles в январе он присоединился к команде основателей Everipedia, познакомившись с другими основателями на конференции в октябре 2015 года в Калифорнийском государственном политехническом университете в Помоне. Поработав над обоими стартапами, Билл планирует осенью вернуться в Пенн, чтобы возобновить учебу.
Могадам заинтересовался компанией из-за того, что изо всех сил пытался создать для себя страницу в Википедии. После увольнения с Rap Genius, сайта текстов песен номер один в мире, за публикацию противоречивых онлайн-комментариев, Могхадам много раз безуспешно пытался получить страницу в Википедии. Он познакомился с соучредителями Everipedia в Калифорнийском университете в Лос-Анджелесе, где выступал с докладом в прошлом году.
«Сэм подошел ко мне во время разговора и показал мою страницу в Everipedia, и это привлекло мое внимание», — сказал Могадам. «Я был как черт возьми, это так важно для меня».
Одним из самых уникальных аспектов Everipedia как онлайн-энциклопедии является функция, которая позволяет любому создать бесплатную учетную запись и открыть страницу Everipedia.
Подход, вроде, рабочий. По словам основателей, Everipedia получает один миллион просмотров страниц в месяц.
«Очень сложно размещать страницы Википедии, потому что вам нужно знать разметку Wiki, которая представляет собой компьютерную программу… тогда как с Everipedia любой может добавлять что-то, и даже делать это со своего телефона; 10-летний ребенок может использовать его», — сказал Могхадам.
В то время как ограничения Википедии на то, что может и что не может иметь онлайн-страницу, не позволяют интернет-троллям фабриковать и распространять ложные утверждения и факты, Everipedia также имеет систему учета легитимности, сохраняя при этом открытое пространство для создания контента.
«Все должно быть проверено, так что вы не можете идти туда и не иметь какого-то разумного доказательства того, что то, что вы говорите, является законным», — сказал Билл. «Вы не можете делать бредовые заявления и не подкреплять их. У нас здесь довольно большая команда, которая просматривает все действия на сайте, и если что-то неясно, мы это удаляем».
И Билл, и Могхадам ссылаются на жесткую и контролирующую систему создания страниц Википедии как на одну из самых неприятных функций, которых они избегают в Everipedia.
«Только 30 000 человек контролируют знания, которые видят миллиарды людей, и все это достается этой дерьмовой бюрократии, где в любой момент любой редактор может сказать «нет», и тогда идея погибнет», — сказал Билл. «Система действительно настроена так, чтобы страницы не создавались».
На данный момент в Everipedia опубликовано около 200 000 страниц.
«В нашей команде четыре очень, очень талантливых разработчика, каждый из которых достаточно талантлив, чтобы создать свой собственный стартап и собрать деньги самостоятельно», — сказал Могхадам. «Тот факт, что вместе работает огромная команда людей, просто показывает, что мы верим в это».