Независимый Форум города Дубна

Общение без цензуры, но с неукоснительным соблюдением правил.
Текущее время: 16 дек 2018, 05:26

Часовой пояс: UTC + 3 часа




Начать новую тему Ответить на тему  [ Сообщений: 204 ]  На страницу Пред.  1 ... 5, 6, 7, 8, 9
Автор Сообщение
 Заголовок сообщения: Re: Про спамботов и защиту от них
СообщениеДобавлено: 04 мар 2016, 16:24 
Не в сети

Зарегистрирован: 27 июл 2010, 13:32
Сообщения: 4861
Гидр писал(а):
iad писал(а):
3. Первые три дня (в общем некий период контроля перса) после регистрации персонажу дают создать не более 5 сообщений в день в существующих темах,
а создание новых тем запрещено. И только на 4-ый день дается возможность полного доступа с разрешением создавать темы

Таким образом, без всяких капчей многоуровневая эшелонированная защита не даст засирать форум спамом.

Не соглашусь. Таким образом мы отсекаем себя от свежих проблем и объявлений о продаже-дарении и т.п. - необходимо разрешить создание 1 темы в течении каждых 24часов первые 3 дня, думаю боты спалятся на первой же теме - боты не читают правила и автоматом самовыявятся.

В общем, механизм лимитирования по количеству созданий тем и сообщений в первичный зародышевый период вполне рабочий.

_________________
Тот факт, что медуза выжила 650 млн лет без мозгов, даёт надежду многим людям.


Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Про спамботов и защиту от них
СообщениеДобавлено: 04 мар 2016, 16:46 
Не в сети

Зарегистрирован: 22 сен 2008, 08:30
Сообщения: 2632
Гидр писал(а):
Не соглашусь. Таким образом мы отсекаем себя от свежих проблем и объявлений о продаже-дарении и т.п. - необходимо разрешить создание 1 темы в течении каждых 24часов первые 3 дня, думаю боты спалятся на первой же теме - боты не читают правила и автоматом самовыявятся.

Если нормальный человек реально хочет стать членом сообщества форумчан - он может и потерпеть зуд в пальцах, а через три дня- велкам :beer: . Еще раз: форум не есть чат, не надо на него залетать, наваливать кучку и линять.


Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Про спамботов и защиту от них
СообщениеДобавлено: 27 мар 2016, 11:27 
Не в сети
Аватара пользователя

Зарегистрирован: 01 фев 2009, 14:56
Сообщения: 81364
Откуда: Дубна
Меньше чем за сутки бот от фраз, вроде «Привет, мир!» и «Все люди классные» перешел к откровенно нацистским и расистским высказываниям, начал обильно употреблять нецензурную лексику и писать откровенные посты порнографического характера с инцестуальным подтекстом.

Естественно, ситуация оказалась неприятной. «Майкрософт» отключил бота, стер большую часть его высказываний, но остались скриншоты. Конечно, можно винить алгоритмы обучения, несовершенство самой системы и недальновидность компании и программистов, невозможно не увидеть во всей ситуации некоторую анекдотичность, но Тау ярко продемонстрировала одну фундаментальную черту, свойственную всем искусственным интеллектам: они — лишь зеркало. Искусственному интеллекту — особенно нейросетям, которые учатся поведению, перерабатывая огромные массивы информации и повторяя их — нужна отправная точка, откуда он начинает свое развитие. И ее он может получить только от нас. Другого пути нет.

Конечно, в случае с Тау надо помнить, что процесс ее изменения был не пассивным. Она не просто находилась в Твиттере и слушала человеческие разговоры вокруг. О ней было объявлено достаточно широко, было немало статей в прессе, и пранкеры действительно решили посмотреть, смогут ли они научить бота быть расистом, и сколько времени на это понадобится.
Поведение Тау, таким образом, это не отражение реального человеческого поведения, а скорее последствие действий тех людей, которые ради веселья решили проверить систему на прочность в ту же секунду, как у них появился такой шанс. То есть зеркало в этом случае показывало не наше реальное отражение, а те гримасы, которые мы корчили в него ради хохмы. И, возможно, это в каком-то смысле хуже.

Тау не может понять, что конкретно она говорит, понятия расизма, нацизма или инцеста для бота не имеют того значения, что они имеют для людей. И когда искусственный интеллект в твиттере начинает ругаться, называть себя «плохим грязным роботом» или говорить, что «геноцид — это забавно», кому-то это может показаться смешным. Но все меняется, если представить, что подобные фразы будут принадлежать какой-то большой системе искусственного интеллекта. А исследования в области искусственного интеллекта за последнее время невероятно ускорились, приняв во многом лавинообразный характер, который уже явно будет крайне сложно, если вообще возможно, не то что остановить, но даже замедлить.

Интеллект AlphaGo победил человеческих чемпионов по игре в го, хотя еще недавно специалисты говорили, что это будет возможно лишь через несколько десятилетий. Компания «Хитачи» запустила искусственный интеллект, который управляет живым персоналом, и тот, работая в качестве директора, сразу увеличил производительность предприятия на 8%. Искусственный интеллект «IBM Watson» помогает врачам в клинике устанавливать диагнозы и прописывать лекарства, а также ищет новые способы лечения рака легких у людей и оказывает психологическую поддержку военным после демобилизации, облегчая им жизнь на «гражданке». Чатбот Xiaoice (по сути, в некотором смысле родственник Тау, также созданный «Майкрософт» и пользующийся огромной популярностью в Китае) первым из роботов официально получил работу, ведет прогноз погоды на телеканале, а также помогает людям справиться с депрессией после того, как их любовные ожидания потерпели неудачу. В Японии роман, написанный при помощи искусственного интеллекта, прошел отбор в первый тур литературного конкурса.

Как ни странно, но возможности искусственного интеллекта растут быстрее, чем мы думаем. И когда появится следующая мощная система с совершенно новыми возможностями, прежде всего, она посмотрит на людей. И если люди, или же просто группа пранкеров или Интернет-троллей, начнет ради смеха кричать и писать ей, что «люди ужасны, лол», вот именно «лол» искусственный интеллект может не понять, а шутки — не оценить.

_________________
всё будет хорошо


Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Про спамботов и защиту от них
СообщениеДобавлено: 27 мар 2016, 16:01 
Не в сети

Зарегистрирован: 10 дек 2015, 04:12
Сообщения: 575
мура писал(а):
... исследования в области искусственного интеллекта за последнее время невероятно ускорились, приняв во многом лавинообразный характер, который уже явно будет крайне сложно, если вообще возможно, не то что остановить, но даже замедлить...

Да нет, всё более-менее ровно идет. Просто у некоторых ведущих теоретиков данного направления заканчиваются длинные гранты, и вот тут внезапно появляются новые громкие термины и слоганы. Вчера был Multi-Variate Analysis. Сегодня это Deep Learning. Завтра еще что-нибудь... Пока не прорыв, а текучка. А вот компьютерные мощности растут сильно. И тот вчерашний неуклюжий бот с парой сотен заготовленных фраз сегодня обладает мгновенным доступом к базе в миллиарды фраз и сотни тысяч интонаций. Из-за чисто технического улучшения создается впечатление что они резко поумнели, да.


Вернуться к началу
 Профиль  
 
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 204 ]  На страницу Пред.  1 ... 5, 6, 7, 8, 9

Часовой пояс: UTC + 3 часа


Кто сейчас на конференции

Сейчас этот форум просматривают: Google [Bot] и гости: 8


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения

Найти:
Перейти:  
Создано на основе phpBB® Forum Software © phpBB Group
Русская поддержка phpBB