Главная » 2017 » Март » 12 » HI-TECH WEEKEND NEWS - ВЫПУСК № 95
20:07
HI-TECH WEEKEND NEWS - ВЫПУСК № 95

МАШИННОЕ ОБУЧЕНИЕ

С давних времен ученые, среди которых Паскаль и Лейбниц, грезили о машинах, способных видеть, понимать окружающий мир и взаимодействовать с ним. Писатели и режиссеры, такие как Жюль Верн, Мэри Шелли, Джордж Лукас и Стивен Спилберг, создавали смелые облики таких умных устройств. В этом выпуске мы поговорим о машинном обучении, которое уже успело доказать, что где-то в глубине компьютеры и роботы не очень-то и сильно отличаются от людей.

Что же такое машинное обучение? Если вкратце, это научная дисциплина, пытающаяся ответить на следующий вопрос: «Как мы можем программировать системы на автоматическое обучение и совершенствование с приобретением нового опыта?». Обучение в этом контексте состоит не в получении новых знаний, а в распознавании сложных паттернов и принятии интеллектуальных решений на основании имеющихся данных. Основная трудность связана с тем, что набор всех возможных решений при всех поступающих данных слишком сложен для описания. Для того чтобы решать эту проблему, в рамках машинного обучения разрабатываются алгоритмы, которые извлекают необходимые знания из конкретных данных и опыта на основании статистических и вычислительных принципов.

История машинного обучения сама по себе очень интересна и насчитывает уже более 70 лет. В 1946 году была разработана первая компьютерная система ENIAC. Компьютером, то есть вычислителем, в те времена назывался человек, выполнявший вычисления на бумаге, а ENIAC стала называться вычислительной машиной. Управлялась она вручную, то есть человеку было необходимо подключать друг к другу компоненты машины, чтобы происходили вычисления. Тогда считалось, что наделение такой машины человеческим подходом к обучению и мышлению было вполне логичной и выполнимой задачей.

В 1950 году британский математик Алан Тьюринг предложил способ измерения продуктивности обучения машин. «Тест Тьюринга» основан на следующей идее: мы можем определить, что машина действительно учится, только если при общении с ней мы не сможем отличить ее от другого человека. Хотя в те времена ни одна из имевшихся систем не смогла пройти «тест Тьюринга», заданная высокая планка стимулировала изобретателей на создание весьма интересных машин.

Артур Сэмюэл

В 1952 году Артур Сэмюэл из компании IBM написал компьютерную игру «Шашки», поставив перед собой задачу наделить ее таким уровнем мастерства, чтобы она могла сразиться с чемпионом мира. Программы машинного обучения Сэмюэла имели большой успех и здорово помогли профессиональным игрокам в шашки улучшить свои навыки в игре.

Еще одной важной вехой стало появление системы ELIZA, разработанной в начале 60-х годов Йозефом Вайценбаумом. ELIZA была симулятором психотерапевта и использовала такие трюки, как подстановка слов и заготовленные ответы в качестве реакции на определенные ключевые слова. Впервые столкнувшись с ELIZA, некоторые ошибочно принимали ее за живого человека.

Иллюзия реального общения ощущалась сильней, если человек ограничивал беседу разговорами о себе и своей жизни. Несмотря на то, что работала ELIZA далеко не идеально, она стала ранним прообразом современных электронных помощников, таких как Siri и Cortana. Еще одним важным достижением можно назвать систему MYCIN, разработанную в начале 70-х годов в Стэнфордском университете командой под руководством Теда Шортлифа. Путем цепочки вопросов и ответов система помогала медицинскому специалисту поставить правильный диагноз пациенту и выбрать наиболее подходящий способ лечения. MYCIN часто называют первой в мире экспертной системой.

На фоне появления экспертных систем возникали и другие подходы к проблеме машинного обучения. В 1957 году американский нейрофизиолог Фрэнк Розенблатт разработал перцептрон — компьютерную модель восприятия информации мозгом, реализованную впоследствии в электронной машине «Марк-1» и ставшую одной из первых в мире моделей нейросетей. 23 июня 1960 года в Корнеллском университете был продемонстрирован первый нейрокомпьютер «Марк-1», который был способен распознавать некоторые буквы английского алфавита.

Фрэнк Розенблатт

Чтобы «научить» перцептрон классифицировать образы, был разработан специальный итерационный метод обучения проб и ошибок, напоминающий процесс обучения человека — метод коррекции ошибки. Кроме того, при распознавании той или иной буквы перцептрон мог выделять характерные особенности буквы, статистически чаще встречающиеся, чем малозначимые отличия в индивидуальных случаях. Тем самым перцептрон был способен обобщать буквы, написанные различным образом (почерком), в один обобщённый образ.

Однако далеко не все разделяли убежденность в том, что подход к обучению компьютеров с помощью нейросетей является правильным. После того как видный ученый Марвин Минский публично раскритиковал эту концепцию, исследования были преимущественно сфокусированы на создании машин, предварительно запрограммированных под выполнение конкретных задач, что обрекло индустрию на застой, продлившийся более 10 лет.

В начале девяностых машинное обучение снова стало очень популярной темой вследствие пересечения информатики и статистики. Такая синергия привела к возникновению нового способа мышления в сфере искусственного интеллекта — вероятностного подхода. Этот подход отличался тем, что основывался на объемах данных, а не выработанных умениях, как в экспертных системах, появлявшихся ранее. Многие сегодняшние успешные случаи применения машинного обучения являются следствием идей, возникших в то время.

Важным аспектом машинного обучения является такой феномен, как Big Data, или большие данные. В девяностые стало очевидно, что чем больше статистической информации «скармливать» вычислительной системе, тем больше вероятность вырабатывать у нее подлинное понимание предоставляемых ей данных.

Благодаря возникновению Интернета и удешевлению устройств для хранения информации ученые получили в свое распоряжение гигантские объемы данных, о которых пятьдесят лет назад исследователи и мечтать не могли. Причем этот объем данных растет в геометрической прогрессии. Например, биология сегодня располагает 1 эксабайтом данных о геномах, что равняется 10 байтам в 18 степени. Ожидается, что в 2024 году новое поколение радиотелескопов будет генерировать такой объем информации ежедневно. Чтобы обрабатывать такие гигантские объемы данных, была создана новая научная дисциплина, занимающаяся большими данными — их быстрым поиском, анализом и ранжированием.

Одним из самых громких успехов последних лет можно назвать сотрудничество ученого Джеффри Хинтона и основателя компании ImageNet Фэй-Фэй Ли, которым совместно удалось существенно продвинуться в развитии такого феномена, как глубокое обучение. Благодаря использованию многослойных нейросетей и миллионов изображений, собранных ImageNet, исследователи смогли добиться того, чтобы компьютеры научились воспринимать информацию не на основании логики, как взрослые люди, а на основании данных от органов чувств — то есть так, как это делает ребенок, познающий мир. По задумке ученых, глубокое обучение должно будет позволить отойти от контролируемого обучения и обеспечить машины способностью обучаться самостоятельно, без каких-либо наставлений со стороны человека.

Важнейшим примером, подтверждающим правильность этого подхода, стал эксперимент, который провела компания Google в 2012 году, вскоре после того, как в нее устроился на работу Джеффри Хинтон. В эксперименте использовалось 1000 серверов с примерно 16 тысячами ядер. В ходе испытаний нейросеть анализировала 10 миллионов скриншотов различных случайных видео с YouTube, из которых смогла с высокой степенью точности определить изображения кошек. Этот эксперимент, прошедший в рамках проекта Google Brain, доказал, что подход Хинтона к машинному обучению является верным и имеет очень впечатляющий потенциал для коммерциализации. Например, в настоящий момент машинное обучение посредством потребления большого количества изображений позволяет с успехом реализовывать проект самоуправляемого автомобиля Google.

Эксперимент Google с кошками

Наиболее сильно почувствовать влияние машинного обучения можно, когда оно интегрировано в инструментарий других методик искусственного интеллекта таким образом, как это еще ни разу не делалось. Например, проект DeepMind все той же компании Google смог продемонстрировать потрясающие результаты, совместив глубокое обучения с техникой, получившей название усиленное обучение. Компания создала систему AlphaGo, которая в марте 2015 года смогла обыграть чемпиона мира по китайской настольной игре го. В отличие от компьютера IBM Deep Blue, выигравшего в шахматы у Гарри Каспарова в 1997 году, AlphaGo не программировалось с помощью так называемого древа решений или уравнений для анализа ситуации на доске. Система главным образом училась игре, наблюдая за тем, как в нее играли профессионалы. По результатам наблюдений AlphaGo сыграла сама с собой миллион партий, анализируя результаты и выстраивая самостоятельную стратегию.

Сегодня машинное обучение активно участвует в нашей жизни и касается каждого из нас, даже если вы напрямую этого не замечаете. Это и системы рекомендации товаров в онлайн-магазинах, и системы фильтрации спама в электронной почте. А иногда, позвонив в службу поддержки какой-нибудь компании, мы с трудом можем определить, разговаривает с нами живой человек или цифровой ассистент, распознающий речь и дающий ответы на вопросы, догадываясь о контексте.

Помимо очевидных достоинств, этот феномен является и серьезным источником для беспокойства. Дело даже не в том, что обучающиеся без участия человека машины однажды захотят нас уничтожить. Негативное влияние искусственного интеллекта и машинного обучения мы ощутим на себе в самые ближайшие годы, когда на бирже труда окажутся тысячи администраторов, секретарей, переводчиков, продавцов и представителей многих других профессий. Через некоторое время к ним могут присоединиться водители, машинисты поездов и, возможно, даже журналисты. По данным Всемирного экономического форума, в течение следующих пяти лет компьютеры и роботы займут пять миллионов рабочих мест, которые сейчас принадлежат людям, причем о том, что со всем этим делать, кажется, не думает никто.


РЕКОРД: ИНДИЯ ВЫВЕЛА НА ОРБИТУ 104 СПУТНИКА

15 февраля, Индийская организация космических исследований (ISRO) успешно запустила ракету-носитель PSLV-C37 и успешно вывела на орбиту 104 спутника. Старт ракеты состоялся в 7 часов утра по московскому времени, а уже через 17 минут после начала полёта специалисты начали выводить спутники на орбиту. Из-за большого количества космических аппаратов работу пришлось разделить на несколько этапов. Для выведения на орбиту всех спутников потребовалось всего полчаса.


Киран Кумар, президент ISRO, провёл пресс-конференцию, в ходе которой поздравил сотрудников с успехом и подтвердил, что все спутники были выведены на орбиту.

Самый большой спутник, находившийся на борту PSLV-C37, весил 715 килограмм. Его сделали для наблюдения за поверхностью Земли, и он начал выходить на орбиту первым, достигнув высоты в 505 километров. Остальные космические аппараты — обычные наноспутники, чей вес составляет не более 10 килограмм. Из них 88 спутников принадлежат американской компании Planet Labs, все они предназначены для съёмок нашей планеты с орбиты. Ещё восемь американских спутников от компании Spire Global сделаны для отслеживания кораблей. Израиль, Казахстан, Нидерланды, Швейцария и ОАЭ тоже воспользовались услугами ISRO и отправили на орбиту по одному наноспутнику.

Этим пуском Индия установила новый рекорд в космической индустрии по числу одновременно запущенных в космос аппаратов. Предыдущий рекорд принадлежал России – в 2014 году отечественная ракета вывела на орбиту 37 спутников.


У МАРИАНСКОЙ ВПАДИНЫ ОТМЕЧЕН ПОВЫШЕННЫЙ УРОВЕНЬ ТОКСИЧНОГО ЗАГРЯЗНЕНИЯ

Результаты нового исследования, опубликованные в журнале Nature Ecology and Evolution, указывают на «чрезвычайно повышенные уровни» токсического загрязнения на океанском дне Марианской впадины, нередко называемой одним из самых удаленных мест на планете. Наиболее опасными в данном случае описываются так называемые «стойкие органические загрязнители» (POPs), которые с 1930-х и по 1970-е годы использовались в производстве смазочных материалов для двигателей и огнеупорных материалов. Благодаря гравитации и многолетним океанским захоронениям отходов эти опасные химикаты опустились на глубину более 11 километров.


Вред от POPs очевиден сразу по нескольким причинам. Одна из них заключается в том, что эти химикаты одинаково опасны не только для человека, но и для рыб и млекопитающих. Воздействие этих веществ со временем может вызывать серьезные болезни, врожденные дефекты и в конечном итоге смерть. Но и это даже не самое худшее. Дело в том, что содержащиеся в этих веществах токсины не распадаются естественным образом в природе. Более того, POPs способны накапливаться в жировых тканях организмов, а это, в свою очередь, говорит о том, что они способны продвигаться дальше в пищевой цепочке и поражать все больше и больше живых организмов.

«Мы по-прежнему рассматриваем океанские глубины в качестве одного из наиболее отдаленных от человеческого воздействия мест, однако наши последние исследования показывают печальную картину: скоро нам придется пересмотреть это мнение», — говорит Алан Джеймисон, ведущий автор исследования стойких органических загрязнителей, обнаруженных в Марианской впадине.

«Факт обнаружения столь высоких уровней этих загрязнителей лишь очередной раз подтверждает мнение о том, какой ужасный негативный эффект для планеты в долгосрочной перспективе может нести за собой деятельность человека».

Следует отметить, что это уже не первый случай обнаружения негативных последствий воздействия человека на самую глубокую в мире океанскую впадину. Годом ранее в журнале Nature была опубликована статья, в которой приводились доказательства наличия других опасных загрязнителей рядом с Марианской впадиной. Эта новость, в свою очередь, появилась всего через месяц после публикации результатов исследований ученых Оксфордского университета, которые безуспешно пытались найти все еще нетронутые человеческой цивилизацией уголки на нашей планете.


ИЛОН МАСК: ЕСЛИ ЛЮДИ НЕ ХОТЯТ ОДНАЖДЫ СТАТЬ БЕСПОЛЕЗНЫМИ, ОНИ ДОЛЖНЫ СТАТЬ КИБОРГАМИ

Человечество находится в опасности забвения под мощью искусственного интеллекта, и ему просто необходимо развивать возможности коммуникации с машинами напрямую или же быть готовым столкнуться с риском стать бесполезным, заявил в присущей ему пафосной манере всеми любимый миллиардер, инженер и изобретатель Илон Маск.


«Я думаю, что со временем мы, возможно, увидим сближение, слияние биологического и цифрового интеллекта», — заявил Маск собравшейся на мероприятии World Government Summit в Дубае публике, где он также объявил о выходе компании Tesla на рынок Объединенных Арабских Эмиратов.

«В большей степени это будет зависеть от пропускной способности, скорости соединения между вашим мозгом и вашей цифровой версией».

На самом деле идея человеко-компьютерного симбиоза далеко не нова. Около 57 лет назад американский психолог и пионер компьютерной сферы Джозеф Карл Робнетт Ликлайдер красочно описал свою теорию «кооперативного взаимодействия между человеком и электронными компьютерами». Его удивительная проницательность оказала серьезное влияние на целые поколения ученых и инженеров.

«Надежда в том, что в относительно недалеком будущем человеческий мозг и компьютерные машины смогут стать очень плотно взаимосвязанными», — писал в своей работе «Человеко-компьютерный симбиоз» («Man-Computer Symbiosis») 1960-го года Ликлайдер.

«И результатом этого симбиоза станет разум, который будет думать, как никогда не думал ни один человеческий мозг и как никогда не обрабатывала информацию ни одна компьютерная машина».

Сегодня, возможно, наиболее яркими примерами нынешнего уровня этого симбиоза являются такие технологии, как шлем Gen III Helmet Mounted Display System для пилотов истребителей F-35 или, возможно, что-то более гражданское в виде шлема виртуальной реальности Oculus Rift. Небольшая ремарка. По иронии судьбы Маск выступал в тот день, когда в Сети появился новый трейлер фильма «Призрак в доспехах» — голливудской киноадаптации популярной японской манги и аниме, в которых представлено будущее, где люди могут заменять части своих тел, включая мозг, кибернетическими аналогами.

Использование Маском в своем выступлении термина «пропускная способность» совсем не случайно, так как именно она станет краеугольным камнем во взаимоотношениях между человеческим мозгом и машиной. Илон объясняет это тем, что машины способны общаться между собой посредством передачи «триллионов бит информации в секунду», в то время как люди, общающиеся в основном со своими смартфонами, ограничены лишь 10 битами в секунду.

«Интерфейсы с высокой пропускной способностью, подключенные к мозгу, станут тем, что поможет человеку войти в симбиоз с машинным интеллектом и, возможно, решить проблемы, связанные с нашими страхами потери контроля над ними и нашего становления бесполезными», — заявил глава SpaceX и Tesla.

Согласно Маску, человеческому разуму необходимо продолжить развиваться, чтобы обрести возможность быстро получать информацию и передавать ее искусственному интеллекту. Как это сделать? Никто пока точно не знает, но волноваться не стоит, опять же потому, что Маск, вероятнее всего, уже работает над каким-нибудь крутым решением.

Об одном из таких концептов он, кстати, уже как-то говорил. Называется «нейронным кружевом». Это интерфейс между машиной и человеком, представляющий собой нейронную сетку (речь не о нейронной сети, а скорее об имплантате, похожем на рыболовецкую снасть), в буквальном смысле вплетенную в мозг человека. По задумке она позволит, например, получать доступ в Интернет без компьютера, так как сама будет представлять собой сложный компьютер с беспроводной сетью, работающий в симбиозе с мышлением человека. Возможно, это устройство даже сможет хранить резервные копии разума человека, на случай, если тот умрет физически. Будем надеяться, что в конечном итоге не получится что-то вроде боргов из «Звездного пути», но как бы там ни было – звучит очень круто, согласитесь.

В своих комментариях к обсуждаемому контексту (вопросу проблемы возможности человека стать бесполезным) Маск в качестве примера отметил то, насколько сейчас велик риск, что водители в скором времени могут быть заменены автономными транспортными средствами. По мнению Илона, самоуправляемые авто, безусловно, будут способны существенно повысить уровень безопасности на дорогах…

«Однако в мире полно людей, чья работа связана с вождением. На самом деле я считаю, что вождение как явление — один из самых крупнейших «работодателей» для людей. Вождение представлено самыми различными формами и применяется в самых различных сферах. Поэтому нам необходимо уже сейчас начинать рассматривать вопросы и разбирать варианты новых ролей для таких людей. Это, безусловно, будет болезненно. Но это необходимо сделать как можно скорее, потому что под риском стать бесполезным в недалеком будущем уже сейчас находится немалый пласт населения планеты».


ОБЪЕДИНЁННЫЕ АРАБСКИЕ ЭМИРАТЫ ПЛАНИРУЮТ ПОСТРОИТЬ ГОРОД НА МАРСЕ

Всего каких-то 40 лет назад Дубай был небольшим поселением, в котором проживали ловцы жемчуга. А сегодня это один из крупнейших и самых футуристических городов мира, украшающий собой Объединённые Арабские Эмираты. Растворяющиеся в облаках небоскрёбы, пожарные, летающие на джетпаках, да и вообще, высокие технологии, встречающиеся на каждом шагу, – всё это делает Дубай настоящим городом будущего. Но, как оказалось, строительства подобных городов на планете Земля ОАЭ уже мало, поэтому теперь они планируют колонизировать Марс.


Вчера в ходе саммита глав государств премьер-министр и вице-президент Объединённых Арабских Эмиратов Мохаммед ибн Рашид Аль Мактум объявил о новом проекте, целью которого является основание общины и возведение небольшого города на поверхности Марса. Правда, участвовать в проекте будут сразу несколько стран, а не только ОАЭ, так как международное сотрудничество критически важно для настолько масштабных проектов.

«Мы всегда стремились к великим свершениям, поэтому я и мой брат Мухаммед бен Заид (первый президент ОАЭ и наследный принц Абу-Даби) решили, что ОАЭ присоединятся к глобальным усилиям по отправке человека на Марс», — торжественно объявил Аль Мактум.

Первый марсианский город планируют назвать Mars 2017 в честь года обнародования этого невероятно амбициозного проекта. Разумеется, строительство его начнётся в далёком будущем, и сам глава ОАЭ прекрасно понимает и уточняет, что «сегодня он всего лишь посадил зерно, а пожинать плоды этого начинания, вероятнее всего, будут уже его потомки». Mars 2017 по своим размерам будет сопоставим с американским Чикаго, а проживать в нём смогут около 600 000 человек.

Как и любой другой проект по колонизации Марса, этот тоже вызывает немало скептицизма, несмотря даже на огромные финансовые возможности ОАЭ. Громкие заявления – это одно, но воплощение проекта в жизнь – совсем другое. С другой же стороны, если Объединённые Арабские Эмираты действительно настроены серьёзно, то кто знает, может быть, у них и правда что-то получится. Так что берегись, Илон Маск!


УЛУЧШЕНИЕ МОЗГА СДЕЛАЕТ НАС «МЕНЕЕ ЧЕЛОВЕЧНЫМИ»

Наши дети увидят, как биоулучшение наверняка станет обычным и привычным для человеческого общества. Персонализированные фармацевтические препараты позволят нам менять наши тела и умы мощными и точными способами, при этом побочных эффектов у них будет куда меньше, чем у современных. Новые нейрокомпьютерные интерфейсы улучшат нашу память и познавательные способности, расширят наши чувства, предоставят прямой контроль над полуразумными устройствами. Генетические и эпигенетические модификации позволят нам менять внешность и способности, а также эмоции, творческие или социальные навыки.


Вас это не пугает? Не тревожит?

Одним из самых коварных последствий такого самостоятельного редактирования является то, что оно будет размывать границу между людьми и вещами. Причина проста: биоулучшения — это продукты. Они требуют машин, химических веществ, инструментов и методов, которые развиваются с течением времени. Они становятся устаревшими по прошествии нескольких лет. И их можно будет купить на рынке. Некоторые из них лучше других и дороже. Некоторые — как машины, ювелирные изделия или дома — будут в большей степени престижны.

Но если мы не будем осторожны, мы будем игнорировать тот факт, что эти «продукты» меняют ключевые аспекты самости человеческого существа. Не осознавая этого, мы погрузимся в пучину улучшений, которые уменьшат значимость человека до суммы его модифицированных или немодифицированных черт. Мы могли бы упустить из виду внутреннюю ценность и достоинство личности и начать сравнивать людей, как будто они машины или дорогие часы, например.

Проблема дегуманизации, обезличения не нова — мы помним войны, колониализм, рабство и крепостное право. Но в результате интенсификации потребительского капитализма в последние десятилетия, нам приходится сравнивать, добиваться, постоянно наращивать достижения, поскольку непрекращающееся давление повседневной жизни выжимает людей как мокрые тряпки. Реклама, развлекательные и социальные медиа побуждают нас худеть, быть лучше, умнее, круче — короче, пребывать в постоянном недовольстве тем, кто мы и что имеем.

Если биоулучшение человека станет широко распространенным в ближайшие десятилетия, есть все основания полагать, что эти коварные тенденции будут усиливаться. Соблазн «получить обновление» или «подобрать лучшую модель» для себя будет слишком сильным. Вместо того чтобы сказать: «Лена получила новый имплантат мозга, но недовольна его производительностью», люди будут говорить: «Обновление Лены было неплохим, но Алиса все еще значительно обгоняет ее».

Говорящий таким образом пересекает невидимую, но критически важную линию. Он оценивает человека как товар, который можно измерить, оценить, обменять. С этой точки зрения платформой станет все человечество — будто программное обеспечение или смартфон, производительность которого можно улучшить, поменять, купить новый. Черты личности станут «функциями»; таланты и приобретенные тяжким трудом навыки станут «приложениями»; глубоко укорененные личностные проблемы и переживания станут «дефектами». Таким образом, «гуманизация» обесчеловеченного человеческого общества может стать одной из важнейших моральных проблем будущего поколения.

Что можно сделать? Во-первых, необходимо принять и продвигать личностную философию, защищающую человеческое достоинство. Запустить Ренессанс. Придется отказаться от мысли и желания свести человека к набору черт или приобретений. Несмотря на то, что люди могут количественно рассчитать силовые, умственные или другие показатели, ценным человеком вас делает не место в таблице лидеров, а другие, более глубокие и уникальные показатели.

Во-вторых, подвергайте критической оценке необходимость сегодняшних усовершенствований. Чем более укорененными становятся в вашей повседневной жизни различные устройства, тем сложнее представить ее в другом режиме. Наше растущее беспокойство по поводу увлеченности смартфонами ни на йоту не снижает время их использования. Как только сложные вещественные и химические биоулучшения проникнут в тела людей, пути назад уже не будет — оценивать возможную жизнь без них будет все сложнее и сложнее. На это потребуется сильное воображение: представление реальности, в которой гаджеты и привычки нас ежедневных временно уходят на задний план. Это сложно.

Наконец, улучшения собственно себя стоит пропускать через призму благополучия, а не конкуренции или успеха. Говоря о конкретной модификации, люди должны задаваться вопросом: «Что она позволит мне делать, чего я не мог раньше?». Но еще более важный вопрос: как эта новая возможность повысит мое качество жизни? Как повлияет на мое времяпрепровождение и отношения с людьми? Сколько места для уединения и тишины останется в моей жизни?

Будучи людьми, мы являемся не просто органическими существами, которые привлекают материал извне для удовлетворения своих нужд. Инструменты и технологии становятся частью нас, составляют нас по частям, и нам следует быть осторожными в том, что и как использовать. Размывание человека в человеке уже началось и в некотором смысле неизбежно. Но биоулучшения выведут его на принципиально другой уровень. Представьте себе фриков, которые получают реальные улучшения от модификаций тела, а не просто косметический и декоративный вес.


ВРЕМЯ СТРОИТЬ ВЕНЕРОХОД!

У Венеры много проблем. Температура, в два раза превышающая ту, при которой пицца готовится за несколько минут. Кислотные дожди, регулярно вымывающие все, что претендует на свободное волеизъявление. Колоссальное давление, в 90 раз превышающее то, к которому мы привыкли на Земле. Почему нам так хочется в это пекло? Венеру часто называют адом как он есть из-за колоссального давления, кислотной атмосферы и чрезвычайно высоких температур. Справиться даже с одним из этих условий уже непросто, если мы хотим когда-нибудь освоить Венеру. Что говорить обо всех трех — недолго жившие советские зонды, отправленные на Венеру, красноречиво об этом молчат.

Тем не менее на Венере можно было бы… жить.
На первый взгляд, эта планета удивительно похожа на Землю: сила тяжести составляет 90% земной, и она всего на 30% ближе к Солнцу, чем мы. Но при ближайшем рассмотрении раскрывается ужасная разница. Если у Марса атмосферы почти нет, у Венеры ее слишком много. Она в 90 раз плотнее земной, состоит по большей части из диоксида углерода (CO2) и окутана облаками чистой серной кислоты.

Парниковый эффект атмосферы Венеры улавливает огромное количество солнечного тепла, благодаря чему поверхность Венеры успешно становится самым жарким местом в Солнечной системе, не считая самого Солнца. При температуре поверхности в 450 градусов этого достаточно, чтобы расплавить цинк, свинец и большинство органических материалов. А вместе с атмосферным давлением, эквивалентным километровой глубине в океане, даже атомная подводная лодка будет раздавлена.

Давление настолько большое, что сам углекислый газ вдавливается в поверхность и приобретает экзотическое состояние «сверхкритической жидкости», которая не является ни газом, ни жидкостью, но обладает свойствами обоих. На Земле сверхкритический CO2 представляет собой опасную и экзотическую субстанцию, которая используется в качестве промышленного растворителя и стерилизатора, — а на поверхности Венеры буквально океан этого вещества.

СССР послал несколько зондов на Венеру в 60-х, 70-х и 80-х годах прошлого столетия; неудивительно, но большинству из них не удалось добраться до поверхности, многие разбились. Самым успешным оказался зонд «Венера-13», ему удалось продержаться более двух часов, прежде чем он тоже поддался сильному давлению и жару. Снимки, которые он отправил, показали недружелюбный, иссушенный и совершенно чуждый нам мир.

И все же мы могли бы жить в облаках этой адской планеты. В 50 километрах над поверхностью Венера оказывается чрезвычайно дружелюбной. При этом атмосферы достаточно, чтобы обеспечить защиту от излучения, сопоставимую с экраном, который мы получаем от атмосферы на Земле. Температура, как ни странно, тоже приближается к комфортной — около 60 градусов по Цельсию. Жарко, да, но наши технологии позволяют с ней совладать. А если подняться еще на пару километров, температура упадет до 30 градусов, при этом атмосфера не потеряет в защите от радиации. И поскольку гравитация Венеры почти такая же, как Земли, колонисты, живущие там годами, не обзаведутся хрупкими костями и слабыми мышцами.

И хотя поверхность Венеры будет оставаться недоступной для людей, роботы могли бы исследовать и разрабатывать твердую почву. Ими могли бы управлять жители облачного города в режиме реального времени — с Земли это сделать невозможно, поскольку сигнал будет идти 20 минут.

Чтобы по-настоящему понять планету, нужно спустить на нее посадочный модуль. Модули могут проверить химический состав воздуха и горных пород на поверхности и понять, как выглядят недра планеты. У «Венеры-Д» был посадочный модуль, но срок ее миссии не превышал трех часов. Предыдущий рекорд выживания на поверхности поставил модуль СССР «Венера-13», который приземлился в 1982 году. Он просуществовал 127 минут в токсичной и едкой среде Венеры.

Чтобы сделать зонд, который проживет дольше — день хотя бы, — необходима прочная электроника, которая сможет выдержать высокие температуры, или система охлаждения для зонда, который, по сути, будет в духовке. Ему придется работать без солнечных батарей, которые мало эффективны на планете с вечной тенью. Батареи долго не протянут и не смогут выработать достаточно энергии.

И все же над этими проблемами работают и пытаются их решить.

Электроника венерианского зонда
Ученые из исследовательского центра Гленна в NASA продемонстрировали электронную схему, которая должна помочь открыть поверхность Венеры для исследований.

«С дальнейшим развитием технологий, такая электроника может значительно улучшить конструкции посадочного модуля для Венеры и концепции миссий, позволив нам провести первые длительное миссии на поверхности Венеры», заявил Фил Нойдек, ведущий инженер-электронщик.

Наши современные технологии позволяют посадочным модулям выдерживать условия на поверхности Венеры всего несколько часов. Но за несколько часов много научной работы не сделаешь, особенно если сравнивать с затратами на миссию. Поэтому увеличение выживаемости посадочного венерианского модуля — ключевая задача.

При температуре в 460 градусов по Цельсию Венера почти в два раза горячее большинства печей. Это достаточно горячо, чтобы расплавить свинец. При этом поверхностное давление на Венера в 90 раз выше, чем на Земле, из-за плотности атмосферы.

Первый цветной снимок поверхности Венеры
Для защиты электроники на предыдущих спускаемых на Венеру аппаратах, их содержали в специальных сосудах, предназначенных для защиты от давления и температуры. Но эти сосуды добавляют много массы к миссии и делают отправку модулей на Венеру очень дорогим удовольствием. Таким образом, если говорить об изучении Венеры, создание надежной электроники становится чертовски важным.

Команда в исследовательском центре Гленна разработала полупроводниковые интегральные схемы на основе карбида кремния, которые чрезвычайно надежны. Две схемы были испытаны в специальной камере, предназначенной для точного воспроизводства условий на Венере. Эта камера называется GEER (Glenn Extreme Environments Rig).

Это специальная 800-литровая камера, которая может воссоздать условия на любом объекте в нашей Солнечной системе, может имитировать температуру до 500 градусов по Цельсию и давление от околовакуумного до в 90 раз превышающего давление на Земле. GEER также может имитировать экзотическую атмосферу и смешивать газы в точных пропорциях. В камере можно смешивать газы с точностью до нескольких частей на миллион. Испытания прошли успешно.

«Мы продемонстрировали довольно длительную электрическую операцию с голыми чипами — без охлаждения и защитной упаковки — в точных физических и химических условиях атмосферы на поверхности Венеры», говорит Нойдек. «Обе схемы работали на момент окончания испытаний».

На деле две эти схемы не только работали по завершении испытаний, но и вполне выдержали условия Венеры в течение 521 часа. Это в 100 раз дольше, чем могли показать предыдущие варианты электроники, спроектированные для миссий на Венеру.

Сами схемы были изначально спроектированы для работы в условиях чрезвычайно высоких температур внутри двигателей самолетов.

«Эта работа не только открывает потенциал для новых научных работ на поверхности Венеры и других планет, но и может иметь прикладное значение для земной электроники, например для использования в двигателях самолетов для улучшения функционирования и снижения выбросов», говорит Гари Хантер, главный разработчик электроники для поверхности Венеры.

Минус такого подхода в том, что такие чипы будут слабее современных компьютерных. Согласно презентации 2014 года, которую представила Venus Exploration Analysis Group в NASA, такая электроника будет по мощности сопоставима с электроникой 60-х. «Мы не повезем туда «пентиумы», говорит Хантер. Но если немного пораскинуть мозгами, этого может быть достаточно, чтобы сделать снимки и принять данные с зонда и передать их на орбиту, на более продвинутый орбитальный модуль.

Цель исследователей, по словам Хантера, заставить электронику проработать тысячи часов — пережить хотя бы один венерианский день, который в 117 раз длиннее земного.

Энергетические системы венерианского зонда
Что касается энергетических систем, Тимоти Миллер и Майкл Пол из Университета штата Пенсильвания предложили использовать двигатель Стирлинга.

Двигатель Стирлинга начинается с рабочей жидкости внутри «холодной» камеры (холодная означает то, что температура ниже, а не совсем низкая). Жидкость сжимается поршнем и движется во вторую камеру, где нагревается. Нагретая жидкость расширяется, передвигая второй поршень, связанный с первым с помощью колеса или рычага. По мере того, как второй пистон движется, он отодвигает жидкость обратно к холодной части, где остывает, и цикл начинается снова. Пока существует источник тепла, двигатель продолжает работать. Сегодня двигатели Стирлинга используются в системах охлаждения и даже на подводных лодках.

Сама технология существует с 1816 года, ее изобрел шотландский священник Роберт Стирлинг. Миллер и Пол считают, что эту старую идею можно использовать для космических аппаратов будущего, и написали об этом в журнале Acta Astronautica. NASA уже профинансировало первые испытания.

Двигатель Стирлинга, говорит Миллер, может обеспечить достаточно энергии, чтобы охладить электронику и дать инструментам электричество, чтобы они могли работать дольше, чем на батареях. Рабочей жидкостью, вероятнее всего, будет гелий, поскольку он более эффективно передает тепло по сравнению с другими газами и не вступает в реакцию.

Но одной энергией все не ограничивается: двигателю Стирлинга нужно топливо. Миллер и его команда остановились на литии, который может гореть в атмосфере из углекислого газа и азота. (Азот составляет 4% воздуха Венеры). Литий также плавится при температуре 180 градусов, что делает его эффективным жидким топливом на Венере.

При этом уменьшается вес космического аппарата на старте — все, что нужно, это взять с собой лития. 50 килограммов в сочетании с двигательной и топливной установкой могут обеспечить зонд энергией на два дня, в соответствии с исследованиями Миллера.

Двигатель должен быть сконфигурирован как однопоршневая система, холодная с одной стороны и горячая с другой; поршень будет толкать генератор переменного тока назад и вперед, вырабатывая электричество. Команда Миллера провела небольшие испытания, при 4-5 атмосферах; нужно дополнительное финансирование, чтобы провести испытания в условиях, приближенных к Венере.

Защита от серной кислоты
Защитить наш зонд от серной кислоты еще проще. Это решение было проверено нашими соотечественниками — и вы имеете честь использовать его на кухне. В 1985 году советская миссия «Вега» облетела Венеру на пути к комете Галлея. «Вега» привезла два шара в атмосферу Венеры, которые плавали в атмосфере как раз на том уровне, о котором мы говорим, в течение двух дней. Внешний слой этих шаров был простым тефлоном. Тефлон обеспечивает абсолютную защиту от серной кислоты. Очевидно, это будет не единственный слой защиты, но уж точно наименьшая из проблем.

В дальнейшем серную кислоту можно было бы расщеплять на воду, кислород и серу и использовать для нужд будущих колонистов, которые смогут разместиться в облаках на воздушных шарах и управлять оттуда, подобно небожителям, наземными роботами.

Если говорить об общем успехе спускаемого аппарата на Венеру, остается множество других проблем. Все оборудование, которое должно там работать, датчики, сверла и атмосферные пробоотборники, должно переживать тепловое расширение вследствие воздействия чрезвычайно высокой температуры. Прочные новые конструкции будут необходимы во многих случаях.

Изучение Венеры потребует от NASA разработки новых технологий, но их будет значительно меньше, чем на Марсе. Мы не знаем многого о Венере, потому что большая часть наших исследований Венеры проходили в самом начале космической гонки. Наши технологии стали лучше, и мы обратили свой взор к другим планетам, особенно к Марсу. За последние несколько десятилетий на Марсе побывало с десяток зондов, а Венера по большей части игнорируется. Мы не знаем ничего не только о том, как развивалась Венера, но и как толстая атмосфера из двуокиси углерода привела к серьезному парниковому эффекту. А это важно, учитывая то, что мы продолжаем сжигать ископаемое топливо на Земле.


КОГДА МЫ БУДЕМ ДЕЛАТЬ РОБОТОВ, КАК В «МИРЕ ДИКОГО ЗАПАДА»?

Хотя создавать роботов с искусственным интеллектом, подобных тем, что были в сериале «Мир Дикого Запада», мы научимся не скоро, прогресс в сфере 3D-печатания органических материалов продвигается очень и очень хорошо. Однажды мы сможем распечатывать целые части тела, пригодные для пересадки, и это изменит жизни множества людей, в настоящее время нуждающихся в новых органах.


С тех пор, как в прошлом году вышел ставший хитом сезон сериала «Мир Дикого Запада» от HBO, в описании возможностей систем искусственного интеллекта стараются равняться на него. В вымышленном мире сериала роботы могут думать и действовать как люди, их практически невозможно отличить от настоящих людей. И оглядываясь на быстро развивающиеся современные технологии, понимаешь, что это представление не так уж и далеко от реальности. При этом оно напоминает нам, как далеко мы должны зайти, прежде чем наш искусственный интеллект обретет такой же уровень сложности.

Мы знаем, что андроиды «Мира Дикого Запада» — чрезвычайно развитый искусственный интеллект, обладающий некими механизмами глубокого обучения, которые позволяют ему быстро реагировать на свое окружение. Система механического скелета у них настолько сложная, что позволяет им осуществлять плавные, человеческие движения и по-разному проявлять выражения лица. И хоть в сериале об этом не говорится, похоже, тела андроидов созданы с использованием органического материала и процесса 3D-печати. Но ведь мы уже создаем 3D-печатные материалы? Где же наша Долорес?

Доктор Энтони Атала из Института регенеративной медицины WakeForest в Северной Каролине использует свою систему ITOP для печати клеток, костей и даже органов. ITOP печатает с использованием человеческих клеток и создает органы в лаборатории, которые вскоре можно будет хирургически имплантировать людям без риска отторжения. «Мы берем очень маленький кусочек ткани, затем начинаем наращивать эти клетки за пределами тела. На их основе создаются новые ткани и органы, которые можно поместить обратно в тело», объясняет Атала.

Пока нет

Было бы интересно полагать, что эту технологию можно использовать для создания искусственных систем для машин, но возможность печатания целого тела, укомплектованного функционирующими системами, еще ой как далека от нас. Одно дело напечатать кожу, например, но ожидать, что она будет прекрасно существовать рядом с металлом, синтетической рамой или скелетом, точно нельзя. Потребуется целая сеть сложных внутренних систем, чтобы все получилось.

3D-печатные органы могли бы оказаться гораздо более полезными для уже живых существ. По словам Атала, они уже напечатали кости, мышцы и хрящи, используя ITOP, после чего успешно имплантировали их крысам. После нескольких месяцев наблюдения ученые обнаружили, что имплантированные ткани выработали систему кровеносных сосудов и нервов. Этот прорыв позволит перейти к испытаниям на людях, где они попытаются добиться таких же результатов.

Атала особенно оптимистичен по поводу будущего своей отрасли, отмечая, что хотя мы не так близки к производству ИИ уровня «Мира Дикого Запада», в ближайшие несколько десятилетий каждый орган в теле можно будет заменить. И если вы не можете дождаться следующего сезона «Мира Дикого Запада», подумайте о том, каково людям, которые не могут дождаться прорывов в сфере 3D-печати.


США ПЛАНИРУЮТ ОТПРАВИТЬСЯ НА ЛУНУ В 2020 ГОДУ

Планы, связанные с освоением Луны, в США вынашиваются уже давно, ещё несколько лет назад подобные предложения поступали от сенаторов и политиков. Затем приоритеты сместились в сторону Марса, которым вплотную и занялись специалисты Американского космического агентства. Однако новая администрация президента США порекомендовала NASA начать разработку плана, связанного с исследованиями и освоением Луны.
Издание Politico, ссылаясь на имеющиеся в его распоряжении документы, пишет, что правительство предложило NASA заняться освоением Луны и привлечением к исследованиям частного сектора. Такой подход поможет создать новые рабочие места и отрасли, да и лететь до Луны гораздо ближе, чем до Марса, а это значит, что и перспективы от освоения естественного спутника Земли видятся гораздо чётче и убедительнее. Политики считают, что необходимо привлекать новые компании к освоению космоса, так как далеко не все разработки создаются в NASA, но финансирование, помимо агентства, получают лишь немногие, а деньги в этой сфере крутятся просто заоблачные.

Предполагается, что уже через три года частные космические корабли и космонавты начнут совершать регулярные полёты на Луну, а NASA займётся экономическим освоением космоса, компании начнут разрабатывать частные космические станции, а луноходы, принадлежащие частным компаниям, смогут отвоёвывать участки поверхности для своих хозяев.


ПРОЕКТ VERTICAL FOREST ПОМОЖЕТ ПОСТРОИТЬ «ЗЕЛЕНЫЕ» НЕБОСКРЕБЫ

В некоторых городах Китая в ближайшее время будет возведено несколько небоскребов, покрытых зеленью. Внутри будут находиться обычные офисные помещения, рестораны, торговые центры и другие атрибуты обычных зданий. Зато снаружи они будут выглядеть как огромные зеленые башни. Строительство будет реализовано в рамках проекта Vertical Forest, который призван не только украсить серый вид мегаполисов, но и помочь в очистке воздуха.


По задумке авторов Vertical Forest, уже в этом году будет заложен фундамент для строительства первых двух башен — высотой 200 и 108 метров соответственно. Оба здания станут «вертикальным лесом», который уместит в себе 23 разновидности местной флоры, среди которых около 900 больших деревьев и более тысячи кустарников, вьющихся растений и цветов. Как утверждают разработчики проекта, все это великолепие будет потреблять порядка 25 тонн углекислого газа и производить около 60 килограммов кислорода ежедневно.

Пойти на создание такого проекта по «нетрадиционному» озеленению городов власти Китая подтолкнул дефицит площадей. Поэтому, несмотря на высокую стоимость строительства, в будущем подобный подход окупится не только с финансовой стороны, но и со стороны здоровья местных жителей. Кроме того, уже сейчас есть немало желающих обзавестись личным участком леса на большой высоте. За финансирование проекта Vertical Forest отвечает государственная корпорация Nanjing Yang Zi, представители которой утверждают, что завершение строительства и ввод в эксплуатацию должны произойти в 2018 году. Первые два небоскреба будут построены в городе Нанкин, а в планы руководства компании также входит озеленить подобным образом города Шицзячжуан, Гуйчжоу, Шанхай и Чунцин.


NATURAL CYCLES — ПРИЛОЖЕНИЕ НА СМАРТФОН ДЛЯ… КОНТРАЦЕПЦИИ

Современные гаджеты призваны упростить жизнь человека. Но вряд ли кто-то мог подумать, что с развитием систем умного дома, Интернета вещей и носимой электроники различные приспособления будут помогать людям даже в тех областях, в которых, казалось бы, все давно известно и исследовано. Видимо, создатели приложения Natural Cycles думали в подобном ключе и представили свое изобретение, призванное заменить традиционные методы контрацепции технологиями цифрового века.


Авторами приложения и специального гаджета-градусника, объединенные названием Natural Cycles, являются доктор Элина Бергланд и ее муж доктор Рауль Швартзл. Гаджет ежедневно измеряет температуру тела своей владелицы, на основании чего при помощи уникального алгоритма строит специальный график, отмечая безопасные дни, в которые женщина имеет минимальные шансы забеременеть, отмечая их в календаре. По большому счету в изобретении нет ничего удивительного: в основе работы лежит самая обычная человеческая физиология. Дело в том, что за несколько дней до начала процесса овуляции в крови женщин повышается концентрация гормона эстрогена, который вызывает небольшое снижение температуры тела. Во время другой фазы менструального цикла, после завершения процесса овуляции, в ход вступает гормон прогестерон, который вызывает небольшое повышение температуры. Эти колебания достаточно незначительны и составляют от 0,2 до 0,45 градуса. Именно эту разницу и улавливает устройство.

Программа уже прошла сертификацию в Германии, а клинические испытания с участием нескольких тысяч женщин показали, что приложение почти так же эффективно, как оральные контрацептивы. Сами авторы тоже надеются на успех своей разработки:

«Многим известно, что одним из самых эффективных методов контрацепции (за исключением барьерных) является гормональная контрацепция. Но, к сожалению, многие женщины имеют массу осложнений от нее. Наши клинические исследования доказали высокую эффективность нового метода контрацепции. Кроме того, Natural Cycles позволит каждой владелице лучше познать работу собственного тела».


АСТРОНОМАМ НУЖНА ВАША ПОМОЩЬ В ПОИСКЕ ЭКЗОПЛАНЕТ

Группа астрономов под руководством американского Института науки Карнеги выложила в открытый доступ внушающего объема базу данных, состоящую из 61 000 измерений так называемой доплеровской скорости 1600 близлежащих к нам звезд. Исследователи приглашают всех желающих, готовых им помочь проанализировать эти данные, присоединиться к поиску новых экзопланет.


Сбор опубликованных данных производился в период с 1994 по 2008 год с помощью спектрометра высокого разрешения (HIRES), установленного в гавайской обсерватории Кека. С помощью HIRES ученые могут улавливать свет звезд и разделять его на разноцветные каналы, что позволяет больше узнать о его свойствах и лучевой скорости, или скорости, с которой звезда двигается относительно наблюдателя, то есть нас.

Несмотря на то, что изначально такой набор данных не предназначался для поиска экзопланет, специалистом Массачусетского технологического института и одним из членов команды исследователей Дженнифер Берт было доказано, что система HIRES смогла зарекомендовать себя в качестве потенциального охотника за экзопланетами, правда, лишь по одному показателю.

«HIRES был разработан в конце «80-х и начале 90-х годов» для поиска слабозаметных обычными инструментами нечетких галактик. Профессор, который его разработал – Стивен Вогт, также входящий в нашу команду поиска экзопланет, – был одним из моих наставников в старшей школе. Разработанный им концепт HIRES в конечном счете одобрили, так как он включал набор инструментов, которые могут понадобиться при поиске новых планет», — поделилась Берт в интервью порталу Gizmodo.

HIRES использует газообразные йодированные поглощающие ячейки, позволяющие наблюдать за эффектом изменения светового спектра звезды. Его еще называют эффектом Доплера. Он вызывается едва заметными изменениями в скорости звезды, которые ученые могут интерпретировать в качестве гравитационного воздействия, оказываемого на звезду находящейся на ее орбите экзопланетой.

Таким образом благодаря одним только данным с HIRES астрономы смогли обнаружить около 100 экзопланет, включая одну из самых близкорасположенных к нашей Солнечной системе — GJ 411. Открыв свободный доступ к данным с HIRES, Берт и ее команда надеются получить обратную связь от астрономов-любителей и рассмотреть множество новых и свежих идей. Любому желающему предлагается установить разработанную исследователями программу анализа, выбрать понравившуюся звезду, которую хотелось бы изучить, и с помощью функций управления увеличить или уменьшить временные рамки для наблюдения. Если пользователь в конечном итоге обнаружит, что их анализ звезды будет достаточно соответствовать ранее составленной модели измерения, то это, возможно, будет означать, что они нашли экзопланету и могут об этом сообщить ученым.

«Хорошая новость в том, что у нас имеется огромный набор данных о множестве звезд. Однако наличие данных не всегда говорит об успехе. Требуется провести очень большой объем работы и выделить возможные случаи ложноположительных заключений. Но наша команда недостаточно велика для такой работы. Мы просто физически не сможем справиться со всеми этими задачами в одиночку и уделить достаточное внимание каждому отдельному случаю».

Даже если никто не найдет экзопланету, люди смогут получить удивительный шанс лично поучаствовать в процессе поиска. Для тех, кто заинтересован, профессор из Йельского университета Грег Лафлин написал руководство, как это сделать. Текст доступен на его веб-сайте (знание английского очень желательно).

«Это отличный шанс для того, чтобы подключить общественность к поиску новых планет. Кроме того, результаты этого анализа обеспечат новыми данными другие команды, занимающиеся поиском экзопланет в больших обсерваториях. Поиск маленьких экзопланет, как правило, требует проведения множество сверок и перепроверок».

«Мы становимся более открытыми к проведению совместных научных проектов вместе с простыми людьми, когда вместо сокрытия информации различные команды могут объединить свои усилия и ресурсы и благодаря этому вывести науку на совершенно новый уровень», — комментирует Берт.

 

Разрешается использование пресс-релизов, новостей и других информационных материалов, предназначенных для общественного пользования, с целью информирования общественности, при условии указания веб-портала «Zentrix» в качестве источника информации.
Автор материала:
Гость
Логин на сайте: Гость
Группа: Гости
Статус:
Зарегистрирован дней:
День рождения:
О материале:
Дата добавления материала: 12.03.2017 в 20:07
Материал просмотрен: 135 раз
Категория материала: HI-TECH
К материалу оставлено: 0 комментариев
Рейтинг материала 0
Вы находитесь на этой странице

секунд!
Всего комментариев: 0
  • Комментарии через сайт

    avatar

  • Комментарии через ВК

  • Комментарии через Facebook