Мифы о Spark, или Может ли пользоваться Spark обычный Java-разработчик
Тот, у кого в руке молоток, во всём видит гвоздь! Глупо?
А что, если это не молоток, а универсальный инструмент, который может быть и бензопилой, и пылесосом, и зубной щёткой?
В мире Big Data есть Hadoop и целый зоопарк инструментов, которые на него пашут, и каждый заточен под что-то своё. А ещё там недавно появился Spark, который можно применять для любых целей.
Если вы хотите писать в Hadoop с различных БД, стримить всякие источники в реальном времени, параллельно делать с данными какую-нибудь сложную обработку, и не при помощи каких-то батчей, скриптов и SQL-запросов, а при помощи мощного функционального языка — добро пожаловать в Spark!
Данный доклад познакомит вас со Spark: как он работает, какие задачи он способен выполнять, как им правильно пользоваться. Мы обсудим проблемы и решения, с которыми поначалу сталкиваются неопытные Spark-разработчики. Разберемся с его синтаксисом и всякими хитростями.
Будет много live coding, и в конечном итоге вы выйдете с этого доклада с достаточными знаниями, чтобы начать самостоятельно работать на Spark.
Евгений пишет на Java с 2001 года и принял участие в большом количестве энтерпрайз-проектов. Пройдя путь от простого программиста до архитектора и устав от рутины, он ушел в свободные художники. Сегодня Женя пишет и проводит курсы, семинары и мастер-классы для различной аудитории: live-курсы по J2EE для офицеров израильской армии, Spring — по WebEx для румын, Hibernate через GoToMeeting для канадцев, Troubleshooting и Design Patterns для украинцев.
Евгений пишет на Java с 2001 года и принял участие в большом количестве энтерпрайз-проектов. Пройдя путь от простого программиста до архитектора и устав от рутины, он ушел в свободные художники. Сегодня Женя пишет и проводит курсы, семинары и мастер-классы для различной аудитории: live-курсы по J2EE для офицеров израильской армии, Spring — по WebEx для румын, Hibernate через GoToMeeting для канадцев, Troubleshooting и Design Patterns для украинцев.